Ein gewöhnlicher Spieler, und nicht einmal auf höchstem Niveau, besiegte das führende System künstliche Intelligenz im Brettspiel Go, was überraschend kam, denn der Sieg des Computers im Jahr 2016 galt als wichtiger Meilenstein in der Entwicklung der künstlichen Intelligenz.
Kellyn Pelrin, ein amerikanischer Amateurspieler, nutzte einen Fehler im System, der zuvor von… einem anderen Computer entdeckt wurde, und gewann 14 von 15 Spielen. Dieser Sieg verdeutlichte die Schwäche der besten Computerprogramme für das Go-Spiel, die die meisten modernen KI-Systeme haben, einschließlich des berüchtigten Chatbots ChatGPT, erstellt von OpenAI.
Die Gewinntaktik wurde ironischerweise von einem anderen Computerprogramm angeboten, das künstliche Intelligenzsysteme auf der Suche nach Schwachstellen untersuchte. „Es war überraschend einfach für uns, das System zu verwenden“, sagte Adam Gleave, Geschäftsführer des kalifornischen Forschungsunternehmens FAR AI, das das Programm entwickelt hat. Das Programm musste mehr als eine Million Spiele gegen eines der beliebtesten Go-Systeme, KataGo, spielen, um den sogenannten „blinden Fleck“ zu finden, sagte er. Laut Pelrin ist die vom Programm entdeckte Strategie „nicht ganz trivial, aber auch nicht super schwierig“, sodass eine durchschnittliche Person durchaus in der Lage ist, sie zu meistern.
Der Sieg kommt sieben Jahre, nachdem die KI ihre unbestrittene Überlegenheit gegenüber Menschen in dem oft als das schwierigste Strategie-Brettspiel angesehenen offenbar unter Beweis gestellt hat. Das von der Firma entwickelte AlphaGo-System DeepMind, das zu Google gehört, besiegte 2016 den Weltmeister Lee Sedol mit 4:1. Im Jahr 2019 hörte der Südkoreaner gerade wegen der Entwicklung der KI auf, an Wettbewerben teilzunehmen - er erklärte, dass eine Person ihn nicht mehr schlagen könne. Nun, Lee Sedol zog ein bisschen voreilige Schlüsse.
Beim Go-Spiel platzieren zwei Spieler abwechselnd schwarze und weiße Figuren auf einem Brett, das mit einem 19x19-Raster markiert ist, und versuchen, die gegnerischen Figuren zu umgeben und den größten Bereich einzunehmen. Aufgrund der großen Anzahl an Kombinationen ist der Computer nicht wirklich in der Lage, alle möglichen zukünftigen Züge zu bewerten. Eine von Pelrin angewendete Taktik bestand darin, langsam eine große "Schleife" aus Steinen aufzureihen, um eine der gegnerischen Gruppen abzulenken KI bewegt sich in andere Ecken des Bretts. Und der Bot bemerkte die Sicherheitslücke nicht, selbst als die Einkreisung fast abgeschlossen war. „Aber es wäre für eine Person ziemlich einfach, es zu bemerken“, fügte der Spieler hinzu.
Auch interessant:
Die Entdeckung einer Schwachstelle in einigen der hochmodernen Go-Maschinen weist auf einen grundlegenden Fehler in den Deep-Learning-Systemen hin, die dem Stand der Technik zugrunde liegen KI. Wie Stuart Russell, Professor für Informatik an der University of California in Berkeley, sagt, können Systeme nur spezifische Situationen „verstehen“, denen sie in der Vergangenheit begegnet sind, und sind nicht in der Lage, alles so zu verallgemeinern, wie es eine Person kann. „Das zeigt einmal mehr, dass wir zu voreilig waren, Maschinen übermenschliche Intelligenz zuzuschreiben“, sagte Russell.
Es ist wahrscheinlich, dass die von Pelrin verwendeten Taktiken selten angewendet werden, was bedeutet, dass KI-Systeme nicht auf genügend ähnliche Spiele trainiert wurden, um ihre Schwachstellen zu „verstehen“.
Auch interessant: