איך לדעתכם אפשר לגרום לבינה מלאכותית במחשב להבין מה בן אדם רוצה ממנה בלי להגדיר לה כל פרט קטן? יש לכם רעיון?

שואל השאלה:
אבל אנחנו רוצים שבינה מלאכותית תהיה יותר כללית ותוכל להחליט בשביל עצמה מה יקדם אותה למטרה שנתנו לה(בשביל להקל עלינו) , הנגזרת של זה היא שהיא תנסה למנוע כיבוי שלה ושינוי של הקוד כי אם זה קורה היא לא תוכל לבצע את מה שהיא רוצה לעשות באותו הרגע.

היא לא יכולה לעשות משהו שאתה לא נותן לה אפשרות לעשות או מונע מלעשות

שואל השאלה:
אם היא בינה כללית בטח שהיא יכולה לעשות דברים "על דעת עצמה" זו המטרה של בינה מלאכותית כללית כדי שהיא תוכל לנצל את מלוא האופציות

לא אם אתה אומר לה לא

בינה מלאכותית כמו כל תוכנה אחרת לא יכולה לעשות דברים מעבר לגבול היכולת שלה, בדרך כלל יש לה מטרה אחרת ונותנים לה לעשות רק אותה אבל פשוט ללמוד לעשות אותה טוב. כמו כן אפשר גם להגביל אותה ולהגיד לה מה היא לא יכולה לעשות. לא צריך להשגיח על כלום כי כל עוד אתה לא כותב בפירוש קוד שנותן לבינה מלאכותית להחליט החלטות על פי עצמה

שואל השאלה:
אבל הסביבה שבה מלמדים אותה היא ממוחשבת ושונה מהמציאות(כי אחרי הכל אי אפשר לצור עותק באמת זהה למציאות) ככה שמספיק רק אחת עם יעדים טיפה שונים משלנו או שתפעל אחרת בתנאים מציאותיים כדי לגרום לנזק בסדרי גודל עצומים.
אין דרך באמת לתאם יעדים 100% אלא אם יש ביקורת אנושית תמידית ופוליטי אז איך נדע אם זה 100% ושהיא לא תעשה דברים כשאנחנו לא משגיחים?

צריך לאמן אותה, זה נקרא self learning ai. אתה נותן לה לעשות את זה שוב ושוב וללמוד מהטעויות שלה עד שהיא עושה את זה נכון

שואל השאלה:
מה זאת אומרת אם אתה אומר לה לא, גם אם תגיד לה לא לעבור דרך דלת מסוימת והיא רוצה משהו מעבר לדלת היא תמצא דרך מסביב למגבלה

שואל השאלה:
זה כבר לא עובד ככה תמיד, עם למידת מכונה המחשב לומד מתרגול ו"פרס" או שיטות דומות עם טכניקות שונות ובסוף זה נותן לו להבין סוג של(לא בדיוק והבעיה היא שיש חוסר תיאום לפעמים ואנחנו לא נדע עד שזה יהיה במציאות) מה שרוצים ממנו אבל הוא לא יודע בדיוק מה זה "תפתור את המבוך" ומה רוצים ממנו הוא רק יודע שיש מבוך ואם הוא עובר על החוקים של פתירת מבוך הוא לא מקבל פרס ושאם הוא מגיע לאיקס הירוק הוא מקבל פרס, עכשיו... קורה שהוא רוצה להגיע לכל איקס או כל דבר ירוק אבל בגלל התנאי לימוד הוא למד לפתור בעיה יחסית ספציפית ואלה בעיות שכבר נתקלים בהן היום עכשיו הבעיה היא מה שאני שואל, איך אפשר להעביר למחשב/מכונה בצורה יותר טובה מה אנחנו רוצים שיעשה בלי לסבך אותה יותר מדי כי אנחנו לא רוצים לעכב אותה על שטויות.

שלום חברים, תנו לי קצת להסביר פה כי נראה שיש לנו כמה ג'וניורים שלא מבינים בשיט.
בינה מלאכותית (נגזר מ"בלוקצ'יין"), זה שיטה לביצוע פעולות באופן איטרטיבי ורקורסיבי. לכאורה, מספר שיטות סייב כגון, האקינג, קראקינג, אבטחת מידע, פריצות, אינפורמיישן סקיוריטי וכו' משתמשות בבינה מלאכותית, אבל זה רדהאט ולא נכנס לזה עכשיו. אבל בגדול זה סכנה ממשית.
אם יש לכם שאלות, מוזמנים לשאול כאן או לפנות בפרטי.

אבל היא תוכנה אחרי הכל, היא לא תעשה משהו שאתה לא נותן לה לעשות

שואל השאלה:
אם היא בינה כללית היא תעשה כל מה שיקדם אותה למטרה ועומד בתנאים שהם החוקים שלה (נגיד לא לפגוע בבני אדם)

אני לא מומחה בזה אבל תוכנה לא יכולה לעשות דברים שלא כתובים בקוד שלה אלא אם אומרים לה שתעשה אותם

שואל השאלה:
מדובר כאן על gai ומה שיקדים לזה, ml וganים נכנסים מתחת לבינה מלאכותית.
עכשיו כשמאמנים בלי לתת את כל החוקים ולהגדיר אותם לחלוטין( מה שלוקח זמן ואנחנו רוצים להמנע ממנו כדי לאפשר גנרליזציה של פתרון בעיות) לדוגמה אי אפשר להיות בטוחים שבאמת יש הבנה מלאה של החוקים בסופו של יום.

צירפתי לינק לעמוד וויקיפדיה שנוגע במה שאני שואל לגביו