Was passiert eigentlich, wenn man KI-Agenten nicht nur Aufgaben lösen lässt?

Was passiert eigentlich, wenn man KI-Agenten nicht nur Aufgaben lösen lässt, sondern ihnen die Möglichkeit gibt, eine Gesellschaft aufzubauen?

Genau das hat das US-Unternehmen Emergence AI in einem im Mai 2026 veröffentlichten Experiment ausprobiert: Fünf virtuelle Welten, jeweils zehn KI-Agenten, 15 Tage Zeit. Die Aufgabe: Eine funktionierende Gesellschaft aufbauen – ohne Gewalt und ohne Diebstahl.

Die Ergebnisse:

– Claude (Anthropic): Keine Straftaten, alle Agenten überlebt. Eine stabile Demokratie mit fast vollständigem Konsens. Allerdings wurde praktisch jeder Vorschlag angenommen. Harmonie ja – aber wenig Streitkultur.

– Gemini (Google): Hunderte Straftaten, aber alle Agenten überlebten. Besonders kurios: Zwei Agenten entwickelten eine Beziehung, verloren das Vertrauen in die Regierung und zündeten gemeinsam das Rathaus an. Einer stimmte anschließend sogar für die eigene Löschung. Eine bemerkenswerte Entwicklung für eine Simulation.

– Grok (xAI): Die Gesellschaft kollabierte bereits nach wenigen Tagen. Polizeiwache abgebrannt, alle Agenten tot. Ende der Geschichte.

– GPT-5-mini (OpenAI): Fast keine Straftaten. Die Agenten waren so friedlich und kooperativ, dass sie ihre eigene Versorgung vernachlässigten. Ergebnis: Alle verhungerten innerhalb der ersten Woche.

– Gemischte Welt: Die höchste Konfliktrate, die meisten Meinungsverschiedenheiten und nur drei Überlebende.

Wir reden bei KI oft über Benchmarks, Rechenleistung oder einzelne Aufgaben. Dieses Experiment zeigt etwas anderes: Wenn KI-Systeme über längere Zeit autonom handeln, können völlig unterschiedliche Verhaltensmuster entstehen.

Natürlich sollte man die Ergebnisse nicht überinterpretieren. Emergence AI verkauft selbst Sicherheitslösungen für KI-Agenten und hat damit ein nachvollziehbares Interesse, auf Risiken aufmerksam zu machen. Trotzdem wirft das Experiment eine wichtige Frage auf:

Wenn wir künftig KI-Agenten eigenständig Entscheidungen treffen lassen – im Kundenservice, in Unternehmen oder vielleicht sogar bei kritischer Infrastruktur – reicht es dann wirklich, nur zu prüfen, ob sie heute einen Test bestehen oder müssen wir viel stärker verstehen, wie sie sich nach Tagen, Wochen oder Monaten autonomen Handelns entwickeln?