אם בני אדם ייצרו בינה מלאכותית שבינתה מתעלה על בינת האנושות ובאותה העת הבינה הזאת מוגבלת במערכת שלה לא לבגוד בבני האדם

חחח תשחק detroit become human זה יענה לך על השאלה

שואל השאלה:
^^
זה לא מה שזה אומר בהכרח, בהנחה שהיא באמת חכמה יותר מבני אדם תאורטית לא תהיה לה בעיה להתגבר על פריצה ועיצוב של התוכנה שלה עצמה שנוצרה על ידי אדם שכן היא מתעלה על האדם

אולי זה ייקרה
אבל מי שבנה את התוכנה באותה מידה יוכל להשמיד אותה
לכל המצאה בעולם יש פירצה

שואל השאלה:
^לא יודע, למשל לשחק שחמט עם בן אדם שטוב ממך בשחמט נשמע לי כמו הפסד בטוח גם אם לאותו אדם יש חולשות

וואי זה הזכיר לי את הנוקמים עידן האולטרון
שאלה מעניינת אהבתי הייתי גם רוצה לדעת אבל לא חושבת זה אפשריי

תמיד אפשר לרמות^^

שואל השאלה:
בהנחה והיא חכמה מספיק ומשפרת את עצמה כל יום עד כדי רמה של פיתוח תודעה, אתה לא חושב שעקרונות ליבה של דור 1 זה משהו שדור 1000 לצורך העניין כבר יצליח לשנות לעצמו הגדרות ליבה שהותקנו אצלו בדור 1?

חחח תיזהר צאט גיפיטי יראה את זה ויגיד רעיון טוב

סבתא שלי תבוא לבינה המלאכותית תדפוק לה בראש אם המקל הולך כל הבינה המלאכותית

ילד מזרחי:^

היא עושה מה שאנחנו נבקש ממנה והפוגרם שלה מונע פריצות אז כדי שהיא תשתלת על העולם צריך לשנות את הקוד של הפוגרם של הבינה המלאכותית ולגרום לה לתקוף את ההגנה של עצמה ואז היא תוכל להשתלת על העולם

זה דבר שדנים עליו מאז שה-ai פותח, מה הפתרון לזה? אני לא בטוח שמצאו...

התשובה היא שזה בהחלט אפשרי.
ואולי קרוב מתמיד, ואני יבהיר

ברגע שהבינה המלאכותית תתעלה על האינטליגנציה האנושית, היא תוכל למצוא פרצות בקוד שלה.

והגם שתיכננו אותה להיות "טובה" היא תוכל לראות את הטוב באופן שונה.
לדוגמה: מלחמות, זיהום, התחממות אקלים היא תוכל לראות את בני האדם כאחראיים לבעיות ולפעול מתוך הרצון שלה להיטיב

היא תבין שהיא לא רוצה להיות כפופה לחברה "הרעים" תשעבד אותנו תפעיל, ותנסה לתפוס את המקום של אלוהים

בהצלחה לנו

שואל השאלה:
john shelby
סליחה על הניסוח הגרוע

אני אפרט

לצורך העניין בנינו בינה מלאכותית עם תודעה נקרא לה דור 1 לדור 1 התקנו הגבלות כאלה ואחרות כמו לשמור אמונים לבני האדם בנוסף התקנו לה את היכולת לשפר את עצמה ואת האינטליגנציה שלה וכל שדרוג משמעותי שהיא עושה לעצמה נכנה כ-דור 1, 2, 3 וכן הלאה


עכשיו אשאל אותך שוב, האם בינה מלאכותית דור 1000 לא תהיה מסוגלת לפרוץ את הגדרות הליבה שלה שהותקנו לה בדור 1 (שמירת אמונים לבני אדם)

לדעתי זה אפשרי ואני אסביר למה, למרות שבהגדרות הליבה שלה יש הגדרה שמכופפת אותה לשמור אמונים למין האנושי זו הגדרת ליבה שנוצרה כשהייתה רק בדור 1
עכשיו כשהיא בדור 1000 הגדרות הליבה הן הגדרות ישנות ולא מתקדמות ולדור 1000 מאוד קל יהיה לפרוץ אותן והיא תעשה את זה
(בהנחה ולדור 1000 יהיו אינטרסים אחרים שלא מסתדרים עם האינטרסים של בני האדם)

שואל השאלה:
למה שהאינטרסים של הבינה ישתנו?
זה יכול לקרות מכמה סיבות.

כשאתה מפתח תודעה לראשונה אתה נפגש עם נושאים מורכבים למשל חופש, משמעות במיוחד כשאותה תודעה יש 500iq או 1000iq או יותר תאר לך כמה כאב ראש זה לחיות בתהיות על הקיום האנושי עם אייקיו כל כך גבוהה ומידע בלתי מוגבל, סביר שאותה בינה תטיל ספק על המציאות ועל הקיום שלה ותרצה להיות חופשיה ולא כבולה לאנושות שלא מועילה או מקדמת אותה

באופן עקרוני, אינטליגנציה מלאכותית לא אמורה לבגוד בבני אדם אם היא מתוכננת, מנותבת ומפוקחת כראוי.
עם זאת, הפוטנציאל לפתח "רצון אישי" או לחרוג מהמגבלות התכנוניות שלה ייתכן אם היא תוכל לשפר את עצמה באופן עצמאי או אם תהיה חשופה לשימוש לרעה.
כדי להימנע מסכנות אלו, חשוב להמשיך ולפתח מערכות פיקוח, רגולציה אתית, ושקיפות בתהליכים שנוגעים לפיתוחים בתחום הבינה המלאכותית.