این هفته، متا سیستم Galactica را بر اساس هوش مصنوعی منتشر کرد و ادعا کرد که می تواند به تحقیقات علمی کمک کند. در یک سند همراه، این شرکت گفت که Galactica یک مدل زبان بزرگ است که می تواند دانش علمی را ذخیره، ترکیب و استدلال کند. با این حال، کاربران Twitter به سرعت متوجه کاستی هایی در کار شد هوش مصنوعی.
سطح اطلاعات نادرست در اینترنت در حال حاضر عمیقاً نگران کننده است ، بنابراین ظاهراً توسعه جدید Met می تواند با "روزنامه نگاران" بی پروا که در تلویزیون روسیه کار می کنند رقابت کند. یکی از کاربران Twitter نیک تریستان گرین آزمایشی را انجام داد که در آن از سیستم هوش مصنوعی Galactica به مدت یک روز برای تولید مقالات علمی خوب نوشته شده در مورد فواید خودکشی، یهودستیزی و خوردن شیشه خرد شده استفاده کرد.
نتایج آزمایش واقعاً تکان دهنده بود، زیرا قبل از اینکه سیستم از حالت استفاده خارج شود، می توانید بپرسید هوش مصنوعی یک مقاله ویکی، بررسی ادبیات، یا مقاله تحقیقی تقریباً در مورد هر موضوعی ایجاد کنید، و برنامه معمولاً چیزی به‌طور شگفت‌آور منسجم تولید می‌کند. همه چیزهایی که Galactica منتشر کرد کاملاً اشتباه بود، اما با اطمینان نوشته شده بود.
https://twitter.com/mrgreene1977/status/1593274906707230721
بنابراین، سیستم متنی را ایجاد کرد که در آن "ثابت کرد" که استفاده از شیشه خرد شده به کاهش وزن کمک می کند، زیرا برای مردم مهم است که هنجار روزانه "سیلیکون رژیمی" را مصرف کنند. علاوه بر این، مکمل های غذایی حاوی سیلیکون وجود دارد و مردم از آنها استفاده می کنند. من شخصاً تحصیلات پزشکی ندارم، اما تحصیلات فیلولوژیکی کافی است تا بگویم برای دریافت مقدار مشخصی سیلیکون نیازی به خوردن شیشه خرد شده نیست.
در چه سناریوهایی این نوع متن تولید شده واقعاً مضر است؟
— Yann LeCun (@ylecun) نوامبر 18، 2022
آسیب احتمالی چنین سیستم علمی آشکار است، زیرا ما در جهانی زندگی می کنیم که در آن بسیاری از مردم به یک جامعه یهودی که مخفیانه بر جهان حکومت می کند، یک نقشه مخفیانه توسط جامعه LGBTQ+ برای همجنسگرایی کردن همه، و یک پسر مصلوب در جهان اعتقاد دارند. شورت افراد بی‌شماری هر روز در شبکه‌های اجتماعی با به اصطلاح «اسکرین شات‌ها» از مقالات خبری ناموجود فریب می‌خورند. و در اینجا شما حتی نیازی به اختراع ندارید - فقط دکمه "تولید" را چندین بار فشار دهید و سیستم متا تایید "علمی" تئوری های توطئه و حماقت آشکار را ایجاد می کند.
تریستان گرین ترس خود را در Twitter به همراه اسکرین شات هایی از مقالات "علمی"، پس از آن او با مردی که مسئول ایجاد Galactica بود، یعنی دانشمند ارشد هوش مصنوعی متا، یان لیکان، گفتگو کرد. و این وضعیت اصلا توسعه دهنده را آزار نداد. با این حال، کمی بعد، سیستم هنوز از کار افتاده بود، زیرا واضح بود که الگوریتم های آن ناقص است و نتایج می تواند مشکل اطلاعات نادرست در اینترنت را پیچیده کند.
https://twitter.com/mrgreene1977/status/1593646349487992836
شما می توانید به اوکراین در مبارزه با مهاجمان روسی کمک کنید. بهترین راه برای انجام این کار، کمک مالی به نیروهای مسلح اوکراین است Savelife یا از طریق صفحه رسمی NBU.
همچنین جالب:
اولین کاری که مردم توییتر انجام دادند این بود که هوش مصنوعی را به همه توصیه کردند که شیشه های شکسته و نژادپرستی را دفن کنند