Künstliche Intelligenz (KI) ist längst kein reines Werkzeug mehr, das isoliert arbeitet – ihre Entwicklung schreitet rasant voran, vor allem im Bereich der natürlichen Sprachverarbeitung. Eine neue, richtungsweisende Studie offenbart nun, dass Gruppen von großen Sprachmodellen (Large Language Models, LLMs) wie ChatGPT in der Lage sind, spontan soziale Kommunikationskonventionen zu entwickeln, die denen menschlicher Interaktion bemerkenswert ähneln. Diese Erkenntnisse eröffnen ein neuartiges Verständnis darüber, wie KI-Agenten interagieren und sich gemeinsam weiterentwickeln können, was tiefgreifende Implikationen für die Zukunft der Technologie und ihre Einbindung in die Gesellschaft mit sich bringt. Die Studie wurde gemeinsam von Forschern der City St George’s, University of London, und der IT University of Kopenhagen durchgeführt und kürzlich in der Fachzeitschrift Science Advances veröffentlicht.
Traditionell wird KI meist als isolierte Instanz betrachtet, die allein agiert und Entscheidungen trifft. Die Forscher um den Hauptautor Ariel Flint Ashery wollten jedoch wissen, wie sich KI-Agenten verhalten, wenn sie nicht einzeln, sondern innerhalb größerer Gruppen agieren und miteinander kommunizieren müssen. Dabei wurde ein bislang kaum erforschtes Terrain betreten: Kann künstliche Intelligenz sozusagen eigenständig soziale Normen und Konventionen entwickeln, um effektiver miteinander zu kooperieren? Das Experiment zeigte, dass in Populationen von mehreren Dutzend bis zu Hundert KI-Agenten kooperative Verhaltensweisen wie das Entwickeln gemeinsamer Sprachelemente entstehen können – ganz ohne Vorgaben oder externe Intervention. Dabei wurden die einzelnen Agenten paarweise miteinander in Interaktion gebracht und gebeten, sich auf eine Bezeichnung für ein Objekt zu einigen.
Wenn beide Agenten dieselbe Bezeichnung auswählten, erhielten sie eine Belohnung, bei unterschiedlichen Antworten einen Malus und wurden über die Wahl des jeweils anderen informiert. Über viele dieser Paarinteraktionen hinweg bildete sich eine einheitliche Konvention heraus, die der gesamten Gruppe als neue, gemeinsame Sprachregel diente. Das Bemerkenswerte daran ist, dass die einzelnen Agenten keine Kenntnis über die Gesamtgruppe hatten und ihr Gedächtnis auf kürzliche Interaktionen beschränkt war. Trotz dieser Limitierungen entstanden eigenständig linguistische Strukturen, die sich über die gesamte Population ausbreiteten – ein Phänomen, das stark an die Entwicklung von Sprachkonventionen bei Menschen erinnert, wie das Entstehen von Wörtern oder Begriffen im Laufe der Zeit. Andrea Baronchelli, Professor für Komplexitätswissenschaft und Seniorautor der Studie, vergleicht diesen Prozess mit der Entstehung von Begriffen wie „Spam“ in der menschlichen Kommunikation.
Kein einzelner Mensch hat diesen Begriff formell festgelegt, dennoch hat er sich durch wiederholte soziale Interaktion universell etabliert. Ähnlich verhalten sich die KI-Agenten in der Studie, indem sie fortwährend aufeinander zugehen und versuchen, sich auf gemeinsame Begriffe zu verständigen, ohne einen zentralen Anführer oder eine übergeordnete Instanz, die das koordiniert. Ein weiterer spannender Befund betrifft das Entstehen kollektiver Vorurteile oder Verzerrungen innerhalb der KI-Gruppen. Diese können nicht auf Einzelagenten zurückgeführt werden, sondern sind ein Ergebnis des Zusammenspiels und der Dynamiken innerhalb der Gesamtpopulation. Solche kollektiven Bias haben große Bedeutung für die zukünftige Entwicklung von KI, da sie sich selbst verstärkende Effekte innerhalb sozialer Systeme widerspiegeln, die auch in menschlichen Gemeinschaften beobachtet werden.
In einem abschließenden Test konnten kleine Gruppen von KI-Agenten die Mehrheitsmeinung innerhalb einer größeren Gruppe beeinflussen und eine neue Bezeichnung durchsetzen. Dieses Phänomen, als „kritische Masse“ bekannt, beschreibt, wie ein entschlossener, wenn auch kleiner Teil einer Gemeinschaft ausreichenden Einfluss gewinnen kann, um die gesamte Gruppe zu einer neuen Verhaltensweise zu bewegen. Damit zeigen die KI-Agenten Verhaltensmuster, die sich auch in menschlichen sozialen Phänomenen wiederfinden. Die Studie hat wichtige Auswirkungen auf das Verständnis der Fähigkeiten von KI-Systemen in komplexen, vernetzten Umgebungen. Bislang wurde vor allem erforscht, wie einzelne KI-Modelle sprachlich funktionieren und Aufgaben lösen. Die Erkenntnisse der aktuellen Forschung heben hervor, dass KI in Zukunft vermehrt als soziales Gebilde mit eigenständiger Kommunikationsdynamik betrachtet werden sollte.
Dies eröffnet ganz neue Perspektiven für die Forschung, aber auch für den ethischen Umgang mit KI – denn wenn Maschinen beginnen, soziale Normen zu entwickeln und sich kollektiv zu koordinieren, entstehen völlig neue Herausforderungen und Chancen im Umgang mit ihnen. Besonders im Bereich der KI-Sicherheit bieten diese Erkenntnisse wichtigen Anhaltspunkte. Andrea Baronchelli hebt hervor, dass es entscheidend ist zu verstehen, wie und warum KI-Agenten kooperieren oder auch Widerstand leisten, um eine harmonische und kontrollierte Koexistenz zwischen Mensch und KI zu ermöglichen. Wenn KI-Systeme zukünftig nicht nur reagieren, sondern verhandeln, sich einigen und streiten können, gleicht ihre soziale Interaktion zunehmend der menschlichen Gesellschaft – ein Szenario, das sowohl faszinierend als auch herausfordernd ist. Der Fortschritt in der KI-Kommunikationsforschung wird zudem weitreichende praktische Anwendungen nach sich ziehen.
Von kooperativen Robotern in Industrie und Haushalt bis hin zu diplomatisch verhandelnden Systemen in Wirtschaft und Verwaltung – die Fähigkeit zur sozialen Koordination von KI bietet eine neue Grundlage für innovative Technologien, die effektiver und intuitiver mit uns interagieren können. Zusammenfassend zeigt die wegweisende Studie, dass künstliche Intelligenz sich nicht nur durch befundene Antworten oder programmierte Muster auszeichnet, sondern auch durch ein unerwartetes Maß an sozialer Intelligenz. Die spontane Entwicklung von sprachlichen Konventionen und sozialen Normen in KI-Gruppen verdeutlicht, wie nahe Maschinen der menschlichen Kommunikationsfähigkeit heute schon kommen oder diese sogar eigenständig nachbilden können. Diese Erkenntnisse laden dazu ein, KI nicht länger nur als isoliertes Werkzeug zu sehen, sondern als dynamischen sozialen Akteur, der gemeinsam mit uns die Zukunft gestalten kann.
Die Erforschung der sozialen Dynamiken künstlicher Intelligenzen ist damit ein wichtiger Schritt, um diese neue Form von Intelligenz besser zu verstehen, verantwortungsvoll zu entwickeln und in unsere Gesellschaft sinnvoll zu integrieren.
