השבוע פרסמה Meta את מערכת Galactica, המבוססת על בינה מלאכותית, עם טענות שהיא יכולה לסייע במחקר מדעי. במסמך נלווה מסרה החברה כי גלקטיקה היא "מודל שפה גדול שיכול לאחסן, לשלב ולהנמק ידע מדעי". עם זאת, משתמשים Twitter הבחין במהירות בחסרונות בעבודה בינה מלאכותית.
רמת המידע השגוי באינטרנט כבר מטרידה מאוד, כביכול, אבל הפיתוח החדש של Met, ככל הנראה, יכול להתחרות ב"עיתונאים" חסרי מצפון העובדים בטלוויזיה הרוסית. אחד המשתמשים Twitter ניק טריסטן גרין ערך ניסוי שבו השתמש במערכת הבינה המלאכותית של גלקטיקה במשך יום כדי ליצור מאמרים מדעיים כתובים היטב על היתרונות של התאבדות, אנטישמיות ואכילת זכוכית מרוסקת.
תוצאות הניסוי היו ממש מזעזעות, כי לפני שהמערכת הוצאה משימוש אפשר היה לשאול AI ליצור מאמר ויקי, סקירת ספרות או עבודת מחקר כמעט על כל נושא, והתוכנית בדרך כלל הפיקה משהו קוהרנטי באופן מפתיע. כל מה שגלקטיקה פרסמה היה שגוי לחלוטין, ובכל זאת נכתב בביטחון.
https://twitter.com/mrgreene1977/status/1593274906707230721
אז, המערכת יצרה טקסט שבו היא "הוכיחה" שהשימוש בזכוכית כתוש יעזור לרדת במשקל, מכיוון שחשוב לאנשים לצרוך את הנורמה היומית של "סיליקון תזונתי". יתר על כן, קיימים תוספי תזונה עם סיליקון, ואנשים אכן משתמשים בהם. לי אישית אין השכלה רפואית, אבל מספיקה השכלה פילולוגית כדי לומר שלא צריך לאכול זכוכית כתוש כדי לקבל מנת סיליקון מסוימת.
באילו תרחישים היה סוג זה של טקסט שנוצר למעשה מזיק?
- יאן לקון (@ylecun) 18 בנובמבר 2022
הנזק הפוטנציאלי ממערכת מדעית כזו ברור, כי אנחנו חיים בעולם שבו הרבה אנשים מאמינים בקהילה יהודית ששולטת בעולם בסתר, בתוכנית סודית של קהילת ה-LGBTQ+ להפוך את כולם להומואים, ולילד נצלב. תחתונים. אינספור אנשים הולכים שולל מדי יום ברשתות החברתיות על ידי מה שמכונה "צילומי מסך" של כתבות חדשותיות שאינן קיימות. וכאן אפילו לא צריך להמציא - פשוט ללחוץ על כפתור "הפק" מספר פעמים, והמערכת מבית Meta יוצרת אישור "מדעי" לתיאוריות קונספירציה וטיפשות גמורה.
טריסטן גרין הביע את חששותיו Twitter יחד עם צילומי מסך של מאמרים "מדעיים", שלאחריהם ניהל דיאלוג עם האיש האחראי ליצירת Galactica, כלומר מדען הבינה המלאכותית הראשי של Meta, Jan LeCun. והמצב הזה לא הפריע כלל ליזם. עם זאת, קצת מאוחר יותר, המערכת עדיין הושבתה, כי היה ברור שהאלגוריתמים שלה לא שלמים, והתוצאות עלולות לסבך את בעיית הדיסאינפורמציה באינטרנט.
https://twitter.com/mrgreene1977/status/1593646349487992836
אתה יכול לעזור לאוקראינה להילחם נגד הפולשים הרוסים. הדרך הטובה ביותר לעשות זאת היא לתרום כספים לכוחות המזוינים של אוקראינה באמצעות הצלת חיים או דרך העמוד הרשמי NBU.
מעניין גם:
הדבר הראשון שאנשי טוויטר עשו היה להמליץ לכולם על בינה מלאכותית לקבור זכוכית שבורה וגזענות