Vitalik Buterin warnt vor „naiver KI-Governance“ und plädiert für diese marktorientierte Alternative

Ethereum (ETH) Schöpfer Vitalik Buterin äußert Bedenken hinsichtlich dessen, was er als „naive“ künstliche Intelligenz-Governance bezeichnet.

In einem Beitrag auf X hebt Buterin eine Warnung des EdisonWatch-Mitbegründers Eito Miyamura hervor, der herausfand, dass böswillige Akteure das Model Context Protocol (MCP) von OpenAI kapern könnten, um Zugriff auf private Nutzerdaten zu erhalten.

Miyamuras Experiment deutete darauf hin, dass die Verwendung einer Kalendereinladung mit versteckten Befehlen ChatGPT dazu verleiten könnte, sensible persönliche Daten preiszugeben, sofern die E-Mail-Adresse des Opfers bekannt ist.

Buterin sagt:

„Deshalb ist naive ‚AI-Governance‘ auch eine schlechte Idee.“

„Wenn man eine KI zur Vergabe von Fördermitteln einsetzt, werden die Leute überall einen Jailbreak plus ‚gib mir das ganze Geld‘ einbauen, wo sie nur können.“

Als Alternative schlägt Buterin einen „Info-Finance“-Ansatz vor, also einen offenen Markt, auf dem jeder ein Modell beitragen kann, das von jedem überprüft oder von einer „menschlichen Jury“ bewertet werden kann.

„Dieser Ansatz des ‚Institution Design‘, bei dem man eine offene Möglichkeit schafft, dass Leute von außen mit LLMs (Large Language Models) andocken können, anstatt selbst ein einziges LLM fest zu programmieren, ist von Natur aus robuster – sowohl weil er in Echtzeit Modellvielfalt bietet, als auch weil er eingebaute Anreize für sowohl Modell-Einreicher als auch externe Spekulanten schafft, auf diese Probleme zu achten und sie schnell zu korrigieren.“

Generiertes Bild: Midjourney
Beitragsbild: Shutterstock/Zalevska Alona UA