Το πιο δημοφιλές chatbot στον κόσμο, το ChatGPT, χρησιμοποιείται από επιτιθέμενους για τη δημιουργία νέων στελεχών κακόβουλου λογισμικού.
Η εταιρεία κυβερνοασφάλειας WithSecure επιβεβαίωσε ότι βρήκε παραδείγματα κακόβουλου λογισμικού που δημιουργήθηκε από τον διαβόητο συγγραφέα τεχνητής νοημοσύνης στη φύση. Αυτό που κάνει το ChatGPT ιδιαίτερα επικίνδυνο είναι ότι μπορεί να δημιουργήσει αμέτρητες παραλλαγές κακόβουλου λογισμικού, γεγονός που καθιστά δύσκολο τον εντοπισμό τους.
Οι εισβολείς μπορούν απλώς να παρέχουν στο ChatGPT παραδείγματα υπάρχοντος κακόβουλου κώδικα και να του ζητήσουν να δημιουργήσει νέα στελέχη βάσει αυτών, επιτρέποντάς τους να διαιωνίσουν το κακόβουλο λογισμικό χωρίς να ξοδεύουν σχεδόν τόσο χρόνο, προσπάθεια και γνώση όσο πριν.
Η είδηση έρχεται εν μέσω πολλών συζητήσεων για τη ρύθμιση της τεχνητής νοημοσύνης για να αποφευχθεί η χρήση της για κακόβουλους σκοπούς. Όταν το ChatGPT έγινε εξαιρετικά δημοφιλές τον περασμένο Νοέμβριο, δεν υπήρχαν κανόνες που να διέπουν τη χρήση του και μέσα σε ένα μήνα έπεφταν πειρατεία για να γράψουν κακόβουλα email και αρχεία.
Υπάρχουν ορισμένες διασφαλίσεις στο μοντέλο που αποσκοπούν στην αποτροπή της εκτέλεσης κακόβουλων προτροπών, αλλά μπορούν να παρακαμφθούν από τους εισβολείς.
Ο Juhani Hintikka, Διευθύνων Σύμβουλος της WithSecure, δήλωσε στο Infosecurity ότι οι υπερασπιστές της κυβερνοασφάλειας συνήθως χρησιμοποιούν τεχνητή νοημοσύνη για να βρουν και να φιλτράρουν κακόβουλο λογισμικό που δημιουργείται με μη αυτόματο τρόπο από παράγοντες απειλών.
Ωστόσο, αυτό φαίνεται να αλλάζει τώρα, με τα ισχυρά εργαλεία AI όπως το ChatGPT να διατίθενται ελεύθερα. Τα εργαλεία απομακρυσμένης πρόσβασης έχουν χρησιμοποιηθεί για παράνομους σκοπούς και τώρα το ίδιο ισχύει και για την τεχνητή νοημοσύνη.
Ο Tim West, επικεφαλής της υπηρεσίας πληροφοριών απειλών στο WithSecure, πρόσθεσε ότι «το ChatGPT θα υποστηρίξει τη μηχανική λογισμικού, τόσο με καλό όσο και με κακό τρόπο, και αυτό βοηθά και μειώνει το εμπόδιο εισόδου για τους προγραμματιστές κακόβουλου λογισμικού».
Σύμφωνα με την Hintikka, τα μηνύματα ηλεκτρονικού "ψαρέματος" που μπορεί να δημιουργήσει το ChatGPT συνήθως γίνονται αντιληπτά από τους ανθρώπους και καθώς τα LLM γίνονται πιο προηγμένα, μπορεί να γίνει πιο δύσκολο να αποτραπεί η εμπλοκή τέτοιων απατών στο εγγύς μέλλον.
Επιπλέον, καθώς η επιτυχία των επιθέσεων επιτιθέμενων αυξάνεται με ανησυχητικό ρυθμό, οι επιτιθέμενοι επανεπενδύουν και γίνονται πιο οργανωμένοι, επεκτείνουν τις δραστηριότητες μέσω εξωτερικής ανάθεσης και εμβαθύνουν την κατανόησή τους για την τεχνητή νοημοσύνη για να εξαπολύσουν πιο επιτυχημένες επιθέσεις.
Ο Hintikka κατέληξε στο συμπέρασμα ότι, κοιτάζοντας το μελλοντικό τοπίο της κυβερνοασφάλειας, «θα είναι ένα παιχνίδι καλής τεχνητής νοημοσύνης έναντι κακής τεχνητής νοημοσύνης».
Διαβάστε επίσης: