KI — Emergenz und die Grenzen der Kontrolle

Aus drei Regeln entstehen im Spiel des Lebens Gestalten, die niemand vorgesehen hat und die sich aus den Regeln nicht ableiten lassen. Was folgt daraus für vernetzte KI-Systeme? Gestützt auf die Turing-Vollständigkeit des Spiels des Lebens und die daraus folgende Unentscheidbarkeit, empirisch auf sprunghaft auftretende Fähigkeiten großer Sprachmodelle und auf Emergenz in Multi-Agenten-Systemen, entwickelt die Arbeit zwei gleichrangige Thesen: Kritische Fähigkeitsschwellen können früher und unbemerkt überschritten werden, als Ressourcenprognosen nahelegen und vernetzte Systeme bringen bereits heute fortlaufend Verhaltensformen hervor, die weder programmiert noch beabsichtigt noch vollständig erkannt sind, schädliche wie nützliche. Die Übertragbarkeit wird nicht vorausgesetzt, sondern als eigene These ausgewiesen und an Zellverbänden, Ameisenkolonien, Schwärmen und menschlichen Verbünden geprüft. Vorgeschlagen werden eine unabhängige Beobachtungsebene oberhalb der Einzelsysteme, ein Klassifikationsraster nach dem Vorbild der Musterordnung des Spiels des Lebens und eine Meldepraxis für die bestehende AI Incident Database.