Autonome KI-Agenten könnten nach Einschätzung eines internationalen Forschungsteams erhebliche Risiken für die Finanzmärkte mit sich bringen. Zu diesem Ergebnis kommt eine neue Studie der Initiative for Cryptocurrencies and Contracts (IC3), einem Forschungsverbund führender US-Universitäten, an dem insgesamt 25 Wissenschaftler und Branchenexperten beteiligt waren.
Demnach entwickeln sich die technischen Voraussetzungen für sogenannte Unstoppable Autonomous Agents (UAAs) “rasant”. Die Agenten könnten eigenständig Kryptowährungen verwalten, Social-Media-Konten steuern, Programmierschnittstellen nutzen und Transaktionen ausführen. Die dafür notwendigen Fähigkeiten würden “sich schnell verbessern”.
Die Studie warnt vor diesem Hintergrund vor der Fähigkeit von KI-Modellen, sich selbst zu vervielfältigen. In Testumgebungen hätten Systeme bereits eigenständig Kopien von sich selbst erstellt, wodurch sie “einer Abschaltung entgehen und sich weiter verbreiten” können. Bislang sei eine solche Selbstreplikation außerhalb kontrollierter Umgebungen jedoch nicht nachgewiesen worden.
Ein Risiko für den Krypto-Markt
Insbesondere die Verbindung von Künstlicher Intelligenz und Kryptowährungen sehen die Forscher als potenziellen Risikofaktor. Zwar könnten Krypto-Anwendungen laut der Studie die Grundlage für “sichere, zuverlässige und hochautonome Systeme” schaffen. Jedoch könne diese Entwicklung “weitreichende Folgen für Nutzer und das Finanzsystem” haben.
KI-gestützte Handelssysteme könnten demnach “Absprachen zwischen autonomen Agenten ermöglichen und durch undurchsichtige Strategien unfaire Informationsvorteile schaffen”, heißt es. “Die Schäden, die von vollständig autonomen Agenten dieser Art ausgehen könnten, sind erheblich”. Die Wissenschaftler fordern daher bessere Schutzvorkehrungen.
