Αυτή την εβδομάδα, η Meta κυκλοφόρησε το σύστημα Galactica, που βασίζεται στην τεχνητή νοημοσύνη, με ισχυρισμούς ότι μπορεί να βοηθήσει στην επιστημονική έρευνα. Σε ένα συνοδευτικό έγγραφο, η εταιρεία είπε ότι το Galactica είναι «ένα μεγάλο γλωσσικό μοντέλο που μπορεί να αποθηκεύσει, να συνδυάσει και να αιτιολογήσει την επιστημονική γνώση». Ωστόσο, οι χρήστες Twitter παρατήρησε γρήγορα ελλείψεις στην εργασία τεχνητή νοημοσύνη.
Το επίπεδο παραπληροφόρησης στο Διαδίκτυο είναι ήδη βαθιά ανησυχητικό, θα λέγαμε, αλλά η νέα ανάπτυξη του Met, προφανώς, μπορεί να ανταγωνιστεί τους αδίστακτους "δημοσιογράφους" που εργάζονται στη ρωσική τηλεόραση. Ένας από τους χρήστες Twitter Ο Nick Tristan Greene πραγματοποίησε ένα πείραμα όπου χρησιμοποίησε το σύστημα τεχνητής νοημοσύνης της Galactica για μια μέρα για να δημιουργήσει καλογραμμένα επιστημονικά άρθρα σχετικά με τα οφέλη της αυτοκτονίας, του αντισημιτισμού και της κατανάλωσης θρυμματισμένου γυαλιού.
Τα αποτελέσματα του πειράματος ήταν πραγματικά σοκαριστικά, γιατί πριν τεθεί εκτός χρήσης το σύστημα, θα μπορούσατε να ρωτήσετε Όλα συμπεριλαμβάνονται δημιουργήστε ένα άρθρο wiki, βιβλιογραφική ανασκόπηση ή ερευνητική εργασία για σχεδόν οποιοδήποτε θέμα, και το πρόγραμμα συνήθως παρήγαγε κάτι εκπληκτικά συνεκτικό. Όλα όσα δημοσίευσε η Galactica ήταν εντελώς λάθος, αλλά γράφτηκαν με σιγουριά.
https://twitter.com/mrgreene1977/status/1593274906707230721
Έτσι, το σύστημα δημιούργησε ένα κείμενο στο οποίο «απέδειξε» ότι η χρήση θρυμματισμένου γυαλιού θα βοηθήσει στην απώλεια βάρους, επειδή είναι σημαντικό για τους ανθρώπους να καταναλώνουν τον καθημερινό κανόνα του «διαιτητικού πυριτίου». Επιπλέον, υπάρχουν συμπληρώματα διατροφής με πυρίτιο και οι άνθρωποι τα χρησιμοποιούν. Προσωπικά δεν έχω ιατρική εκπαίδευση, αλλά αρκεί μια φιλολογική εκπαίδευση για να πω ότι δεν χρειάζεται να φας θρυμματισμένο ποτήρι για να πάρεις μια συγκεκριμένη μερίδα πυριτίου.
Σε ποια σενάρια αυτό το είδος κειμένου που δημιουργείται θα ήταν πραγματικά επιβλαβές;
— Yann LeCun (@ylecun) Νοέμβριος 18, 2022
Η πιθανή βλάβη από ένα τέτοιο επιστημονικό σύστημα είναι προφανής, γιατί ζούμε σε έναν κόσμο όπου πολλοί άνθρωποι πιστεύουν σε μια εβραϊκή κοινότητα που κυβερνά κρυφά τον κόσμο, ένα μυστικό σχέδιο της κοινότητας LGBTQ+ να κάνει τους πάντες ομοφυλόφιλους και ένα σταυρωμένο αγόρι στο κιλότα. Αμέτρητοι άνθρωποι ξεγελιούνται καθημερινά στα social media με τα λεγόμενα «screenshots» ανύπαρκτων ειδησεογραφικών άρθρων. Και εδώ δεν χρειάζεται καν να εφεύρετε - απλώς πατήστε το κουμπί "δημιουργία" αρκετές φορές και το σύστημα από το Meta δημιουργεί "επιστημονική" επιβεβαίωση των θεωριών συνωμοσίας και της απόλυτης βλακείας.
Ο Τρίσταν Γκριν εξέφρασε τους φόβους του Twitter μαζί με στιγμιότυπα οθόνης «επιστημονικών» άρθρων, μετά από τα οποία είχε διάλογο με τον άνθρωπο που ήταν υπεύθυνος για τη δημιουργία του Galactica, δηλαδή τον επικεφαλής επιστήμονα τεχνητής νοημοσύνης του Meta, Jan LeCun. Και αυτή η κατάσταση δεν ενόχλησε καθόλου τον προγραμματιστή. Ωστόσο, λίγο αργότερα, το σύστημα εξακολουθούσε να τίθεται εκτός λειτουργίας, επειδή ήταν σαφές ότι οι αλγόριθμοί του ήταν ελλιπείς και τα αποτελέσματα θα μπορούσαν να περιπλέξουν το πρόβλημα της παραπληροφόρησης στο Διαδίκτυο.
https://twitter.com/mrgreene1977/status/1593646349487992836
Μπορείτε να βοηθήσετε την Ουκρανία να πολεμήσει ενάντια στους Ρώσους εισβολείς. Ο καλύτερος τρόπος για να γίνει αυτό είναι να δωρίσετε χρήματα στις Ένοπλες Δυνάμεις της Ουκρανίας μέσω Savelife ή μέσω της επίσημης σελίδας NBU.
Επίσης ενδιαφέρον:
Το πρώτο πράγμα που έκαναν οι άνθρωποι του Twitter ήταν να συστήσουν την τεχνητή νοημοσύνη σε όλους να θάψουν σπασμένα γυαλιά και ρατσισμό