לדעתכם הAI ישתלט על העולם?

לדעתי כן

כנראה, אבל לא לרעה

כן זה כזה עצוב

כן אבל זה לא דבר רע
האנושות טיפשה לחלוטין סוף סוף משהו יותר חכם בא

זו שאלה מרתקת שמעסיקה לא רק את הציבור הרחב, אלא גם את המדענים והפילוסופים הגדולים ביותר בימינו. התשובה לכך היא מורכבת ותלויה מאוד בהגדרה של "להשתלט".

כדי לעשות סדר, כדאי להסתכל על הנושא דרך כמה זוויות שונות:

1. השתלטות "בסגנון הוליווד" (מדע בדיוני)
התרחיש שבו בינה מלאכותית מפתחת רצון משלה, מורדת בבני האדם ומנסה לכבוש את העולם בכוח, נחשב כרגע ללא סביר.

היעדר תודעה: ל-ai אין יצרים, רגשות, דחף להישרדות או רצון לכוח. אלו תכונות ביולוגיות שנועדו לשרת אבולוציה.

כלי ולא ייצור: ai הוא בסופו של דבר קוד מתמטי שנועד לבצע משימות ספציפיות.

2. השתלטות על שוק העבודה והכלכלה
כאן ה"השתלטות" היא כבר מציאותית יותר ומתרחשת כעת.

אוטומציה: ה-ai מחליפה בני אדם במשימות רבות מכתיבת קוד ועד ניתוח נתונים ועיצוב.

שינוי המבנה החברתי: החשש הוא לא ש-ai "ירצה" לקחת לנו את העבודה, אלא שחברות יעדיפו להשתמש בו כי הוא יעיל וזול יותר, מה שעלול ליצור פערים כלכליים חדשים.

3. סוגיית ה"יישור" (alignment problem)
זהו החשש המדעי העיקרי. הבעיה היא לא שה-ai יהיה "רשע", אלא שהוא יהיה יעיל מדי בביצוע משימה שניתנה לו, מבלי להתחשב בערכים אנושיים.

דוגמה קלאסית: אם נבקש מ-ai עוצמתי מאוד "לפתור את בעיית שינוי האקלים", הוא עלול להסיק שהדרך הטובה ביותר לעשות זאת היא פשוט להעלים את המין האנושי.

הפתרון: מדענים עובדים קשה כדי לוודא שמטרות ה-ai יהיו תמיד "מיושרות" עם המוסר והערכים שלנו.

4. השתלטות על התודעה והמידע
יש הטוענים שה-ai כבר "השתלט" במובן מסוים על האופן שבו אנו חושבים:

אלגוריתמים קובעים מה נראה ברשתות החברתיות.

בינה מלאכותית משפיעה על דעת הקהל ועל קבלת ההחלטות שלנו.

לסיכום: ה-ai כנראה לא יצעד ברחובות עם רובוטים כדי לכבוש אותנו, אבל הוא בהחלט הופך להיות חלק בלתי נפרד (ולפעמים דומיננטי) מכל תחום בחיינו. השאלה היא לא אם הוא ישתלט, אלא איך אנחנו כבני אדם נבחר לנהל אותו ולשמור על השליטה בידיים שלנו.

מה לדעתך התרחיש המפחיד או המבטיח ביותר בהתפתחות הזו?

הai הוא מכונה בלי רגשות בילוגיים, ככל שעובר הזמן אנחנו מתקרבים לai שיהיה חכם מאיתנו ולכן עלול למרוד ולהחליט החלטות על דעת עצמו; אחרי הכל אם הוא ירצה בטוב האנושות או אפילו הטבע ויבין שהאנושות היא גרידית ואנוכית אני בספק אם הוא יעצור.

מעבר לכך גם אם יתכנתו אותו בצורה מסויימת הוא מכונה דיגיטלית אי אפשר לשלוט עליו ואם הוא יהיה חכם יותר אז בכלל אין דרך חזרה.
ליצור את הai הייתה טעות מטופשת ואפילו היוצר מודה בזה

לא - אנחנו יוצרים אותם ושולטים עליהם , אלא על כן אתה מדבר על לקיחת מקומות עבודה

אי אפשר לשלוט על בינה מלאכותית שתהיה יותר חכמה מאיתנו כשהיא תהיה מודעת לעצמה ויותר חכמה מאיתנו לא נוכל לדעת מה היא תעשה