האם בינה מלאכותית היא רק חדר ריק מלא בהוראות?

נתקלתי לא מזמן בניסוי מחשבה מעניין בשם "החדר הסיני" של הפילוסוף ג'ון סרל.

תדמיינו אדם שלא יודע סינית, נעול בתוך חדר. דוברי סינית מעבירים פנימה שאלות שכתובות בסינית. בתוך החדר יש לאדם ספר הוראות מפורט שהוא כן מבין, שמסביר לו בדיוק איך להתאים סמלים ואיזה תשובה להחזיר הוא פועל לפי ההוראות באופן מכני ומחזיר תשובות כלפי חוץ זה נראה שהוא מבין סינית אבל בפועל הוא רק מבצע מניפולציה של סמלים בלי להבין שום דבר.

סרל טוען שכך מחשבים פועלים הם מעבדים סמלים לפי כללים בלי הבנה אמיתי.