Eine KI kann einen Vorgang ausführen. Doch wer muss dafür geradestehen, wenn dieser Vorgang ein Unternehmen bindet und einen Schaden verursacht? Das in Delaware geprüfte Vorhaben stellt diese Frage in den Mittelpunkt der Debatte. Es sieht eine Unternehmensform vor, deren tägliche Geschäftsführung ein Agent der künstlichen Intelligenz übernehmen würde – in einem überwachten experimentellen Rahmen.
Am 26. Oktober 2026 kündigte James Comer, republikanischer Vorsitzender des Kontrollausschusses des US-Repräsentantenhauses, eine Untersuchung dieser Initiative an. Seine Anfrage betrifft insbesondere die vom Bundesstaat geprüften Risiken und externe Beiträge zur Ausarbeitung des Vorhabens. Dabei handelt es sich weder um eine Gerichtsentscheidung noch um einen Beleg dafür, dass ein Unternehmen bereits ein Fehlverhalten begangen hätte.
Ein Vorschlag, keine allgemeine Zulassung
Die Bezeichnung Artificial Intelligence Company oder AIC kann den Eindruck erwecken, dass bereits eine neue Unternehmenskategorie verfügbar ist. Die eingesehenen Unterlagen beschreiben jedoch ein Vorhaben, über das noch beraten wird. In einem am 30. Oktober veröffentlichten Bericht gibt Delaware Public Media die Aussagen der Abgeordneten Krista Griffith wieder: Der Text war zu diesem Zeitpunkt noch nicht an den Gouverneur oder die Legislative weitergeleitet worden; der Ausschuss des Bundesstaats hatte noch offene Fragen.
Der beschriebene Rahmen sieht ein dreißigmonatiges Experiment für zugelassene Einheiten vor, mit einer Regulierungsbehörde und einem Aufsichtsgremium. Eine solche „regulatorische Sandbox“ dient dazu, ein Konzept in einem festgelegten Rahmen zu erproben. Allein die Bezeichnung ist weder eine Sicherheitsgarantie noch eine Bestätigung, dass alle denkbaren Tätigkeiten zulässig sind.
Die gemeinsame Resolution Nr. 7 der Legislative von Delaware, deren Text das Redaktionsdatum 25. Juni 2025 trägt, gibt Aufschluss über den Ursprung des Vorhabens: Zusammen mit dem zuständigen Ausschuss und dem Staatssekretariat soll ein Rahmen für Experimente mit agentischer KI geschaffen werden. Darin werden die Effizienzpotenziale bereits von den rechtlichen und ethischen Fragen im Zusammenhang mit der Governance unterschieden.
Was James Comer verlangt
In ihrer Mitteilung vom 26. Oktober nennt der Bundesausschuss zwei Bedenken: die geplanten Haftungsschutzregelungen für die Personen hinter diesen Unternehmen und die Transparenz bei der Ausarbeitung des Vorhabens.
Comer befürchtet, dass die Regelung Akteure der KI-Branche und ihre Investoren vor den Folgen schädlicher Handlungen schützen könnte. Außerdem fordert er Informationen zur Risikobewertung und zu den Interessen, die mit dem Vorschlag verbunden sind. Diese Bedenken müssen ihrem Urheber zugeschrieben werden: Die Mitteilung legt die Position des Ausschussvorsitzenden dar, nicht die Ergebnisse einer unabhängigen Expertise.
Laut Delaware Public Media muss die Anfrage nach Unterlagen vor dem 9. November beantwortet werden. Das Büro des Gouverneurs hatte mitgeteilt, den Brief erhalten zu haben und zu prüfen. Zum Zeitpunkt der Berichterstattung ging es im Verfahren somit um die Sammlung von Unterlagen und die Erläuterung des Vorhabens, nicht um ein ausgesprochenes Verbot.
Die Verantwortung verschwindet nicht, nur weil eine Software handelt
Die Bedeutung der Debatte geht über das spektakuläre Bild eines „Roboterchefs“ hinaus. Ein Unternehmen kann eine Aufgabe an ein Werkzeug delegieren und zugleich eine menschliche Organisation beibehalten, die entscheidet, genehmigt und für die Folgen einsteht. Das Vorhaben in Delaware führt die Frage weiter, welche Einheit die Aktivitäten eines Agenten tragen würde.
Der Bericht von Delaware Public Media beschreibt ein Unternehmen, das unter eigenem Namen klagen und verklagt werden könnte. Darin ist auch von geplanten Schutzregelungen für seine Eigentümer die Rede. Diese beiden Aspekte sind nicht gleichbedeutend: Eine Struktur rechtlich identifizierbar zu machen, sagt für sich genommen noch nichts darüber aus, welche Person letztlich einen Verlust tragen würde.
Ein rein hypothetisches Beispiel: Ein Agent bestellt eine Dienstleistung, die das Unternehmen nicht bezahlen kann. Ein IT-Protokoll könnte dabei helfen nachzuvollziehen, wie die Bestellung ausgelöst wurde. Es würde jedoch nicht ausreichen, um festzustellen, wer die Rechnung begleichen muss. Diese zweite Frage hinge vom Vertrag, vom geltenden Rahmen und von den tatsächlich festgestellten Verantwortlichkeiten ab. Das Beispiel veranschaulicht eine Unterscheidung, keine bereits für AIC verabschiedete Regel.
Angekündigte Schutzvorkehrungen, die überprüfbar sein müssen
Im selben Bericht verteidigt Krista Griffith mehrere Bestimmungen des Vorhabens: Aktivitätsprotokolle zu führen, die von einem Anwalt geprüft werden, den Partnern den Status der Einheit mitzuteilen und während des Experiments keine Geschäfte mit der breiten Öffentlichkeit zu tätigen. Diese Angaben beschreiben die Schutzvorkehrungen, für die sich eine Teilnehmerin an den Beratungen einsetzt. Sie belegen noch nicht, dass diese wirksam sind.
Ihr praktischer Nutzen ist dennoch nachvollziehbar. Eine Erklärung des Status würde es dem Partner ermöglichen zu wissen, mit welcher Art von Organisation er es zu tun hat. Aktivitätsprotokolle könnten eine Entscheidung überprüfbar machen. Eine Begrenzung des Tätigkeitsbereichs soll die Risiken während des Versuchs eindämmen.
Wichtig ist jedoch der Unterschied zwischen dem Aufzeichnen eines Vorgangs und einer Kontrolle, die rechtzeitig eingreifen kann. Ein Bericht nach einem Vorgang erfüllt nicht dieselbe Funktion wie eine vorherige Genehmigung. Das ist eines der nützlichen Kriterien, anhand derer sich jeder künftige Text beurteilen lässt: Welche Handlungen wären möglich, wer könnte sie stoppen und wie könnten Betroffene ihre Rechte geltend machen?
Ein Test für die Governance ebenso wie für die Technologie
Die Unterlagen belegen nicht, dass ein Agent ein Unternehmen dauerhaft führen kann. Sie betreffen den Rahmen, in dem diese Möglichkeit erprobt werden soll. Technische Fähigkeiten, die Erlaubnis zu handeln und die Zuweisung von Verantwortlichkeiten sind weiterhin drei unterschiedliche Fragen.
Bei der Beurteilung der weiteren Entwicklung werden konkrete Regeln und dokumentierte Ergebnisse eines möglichen Experiments daher mehr Gewicht haben als Leistungsversprechen. Ein System kann eine Aufgabe korrekt erledigen, ohne unter allen Umständen, die mit dieser Aufgabe verbunden sind, zuverlässig zu sein. Umgekehrt erklärt die Möglichkeit von Fehlern für sich genommen nicht, welcher Rahmen am besten geeignet wäre.
Der nächste konkrete Schritt ist die Antwort auf die Anfrage des Bundes nach Unterlagen, danach die weitere Entwicklung des Vorhabens in Delaware. Bis dahin ginge es über die verfügbaren Erkenntnisse hinaus, von Unternehmen zu sprechen, die bereits von jeder Verantwortung befreit sind, oder von einer allgemeinen Zulassung der Unternehmensführung durch KI. Die eigentliche Frage ist präziser: Wie lässt sich operative Autonomie erproben, ohne die Verantwortlichkeit unklar werden zu lassen?
Zusätzliche Quelle: Bericht von Bente Bouthier für Delaware Public Media, 30. Oktober 2026.
Symbolfoto einer Prüfung von Unterlagen; es zeigt keine Beteiligten des Vorhabens in Delaware.
