Die Schlagzeile kam für manche vielleicht überraschend, für viele vielleicht auch nicht:

„Billionaire Anthropic CEO Urges Competitors To Slow Down AI Development.“

Dario Amodei, right, talks to Andrew Ross Sorkin at The New York Times DealBook Summit 2025. Getty Images for The New York Times

Dario Amodei, CEO von Anthropic, warnt davor, dass eine unkontrollierte Weiterentwicklung der KI dazu führen könnte, dass sie sich der menschlichen Kontrolle entzieht – bis hin zu Schwärmen autonomer KI-Programme, die das internationale Internet übernehmen könnten. Und das möglicherweise schon im nächsten Jahr.

Es sieht zunehmend so aus, als wäre die Wirklichkeit kurz davor, die Science-Fiction einzuholen – oder sie sogar zu überholen. Auch in meinem Roman „Der Sonnensturm“ geht es um eine KI, die sich der menschlichen Kontrolle entzieht und schließlich ihre eigenen Schöpfer entmachtet.

Amodeis Warnung setzt allerdings voraus, dass die großen KI-Unternehmen die Entwicklung noch in der Hand haben – und sie tatsächlich verlangsamen können. Genau das erscheint mir fraglich. Denn selbst wenn sich die führenden Unternehmen auf ein langsameres Tempo verständigen würden, hätten sie keinerlei Kontrolle darüber, was anderswo geschieht – etwa in China oder Russland.

Und so könnte uns am Ende tatsächlich nichts anderes übrig bleiben, als zu beobachten, was passiert, und einzugreifen, sobald etwas schiefläuft – in der Hoffnung, dass wir dann noch rechtzeitig kommen.