Buterin drängt Info Finance, Ausnutzungen in der KI-Governance zu stoppen
- Vitalik warnt davor, dass naive KI-Governance anfällig für Manipulationen und Ausnutzung ist.
- Info Finance schafft Modellvielfalt und schnelle Korrekturen, wodurch die KI-Governance sicherer wird.
- Prognosemärkte und Stichprobenprüfungen helfen, KI-Entscheidungen und -Finanzierungen abzusichern.
Ethereum-Mitbegründer Vitalik Buterin hat davor gewarnt, dass naive Modelle der KI-Governance ernsthafte Risiken bergen, und betont, dass Rahmenwerke, die sich auf KI für Finanzierungen oder Entscheidungsfindungen verlassen, weiterhin anfällig für Manipulationen und Ausnutzung sind. Seiner Ansicht nach ermöglichen solche Systeme böswilligen Akteuren, Ressourcen umzuleiten. Er plädiert jedoch für einen Ansatz namens „Info Finance“, der darauf abzielt, durch Märkte, menschliche Aufsicht und Kontrollen Verantwortlichkeit zu schaffen und Missbrauch zu verhindern.
Das Problem mit naiver KI-Governance
Buterin betonte, dass naive KI-Governance riskant ist und fügte hinzu, dass, wenn KI zur Mittelvergabe eingesetzt wird, Menschen sie mit ihren eigenen Prompts manipulieren und überschüssiges Geld erhalten könnten. Er erläuterte weiter, dass, wenn Modelle ohne Einschränkungen oder Richtlinien arbeiten, sie missbraucht werden könnten, was Hacker dazu ermutigt, Prompts zu verwenden und die KI dazu zu bringen, falsche Ressourcen freizugeben.
Solche Schwachstellen bringen KI in eine potenziell gefährliche Schleife. Darüber hinaus enthüllte Buterin systemische Schwächen, die, wenn sie nicht überprüft werden, manipuliert werden könnten. Unsichtbare Angriffe und Prompt-Injektionen sind Beispiele dafür, wie Angreifer leicht Vorteile ziehen können.
Info Finance als Alternative
Buterin entscheidet sich für Information Finance anstelle naiver Governance und beschreibt es als einen Ansatz des „Institutionendesigns“, der offenen Marktwettbewerb mit menschlicher Überprüfung verbindet. Er sagte:
Als Alternative unterstütze ich den Info-Finance-Ansatz, bei dem es einen offenen Markt gibt, auf dem jeder seine Modelle einbringen kann, die einem Stichprobenmechanismus unterliegen, der von jedem ausgelöst und von einer menschlichen Jury bewertet werden kann.
Er erläuterte, dass Info Finance es externen Mitwirkenden ermöglicht, große Sprachmodelle (LLMs) zu integrieren, ohne ein einziges System fest zu programmieren. Dies ermöglicht Modellvielfalt und verringert so die Wahrscheinlichkeit eines weitreichenden Ausfalls. Es schafft auch Anreize für Entwickler und Spekulanten, Schwachstellen genau zu beobachten und bei Problemen schnell zu handeln.
Ein vorgeschlagener Mechanismus beinhaltet Prognosemärkte oder Entscheidungsbörsen. Mehrere Modelle würden konkurrieren, und Teilnehmer könnten auf Ergebnisse setzen, um anzuzeigen, welche Modelle am zuverlässigsten erscheinen. Menschliche Jurys oder Prüfer würden die Ergebnisse regelmäßig stichprobenartig überprüfen, insbesondere in Fällen mit hohen Einsätzen.
Verwandt: ETH-Treasuries steigen auf 12 Milliarden Dollar, während Vitalik vor Leverage-Risiken warnt
Auswirkungen auf Krypto und Märkte
Info Finance setzt auf gestufte Verantwortlichkeit und ist besonders im offenen Wettbewerb bemerkenswert, der es ermöglicht, fehlerhafte Modelle herauszufordern oder zu ersetzen. Menschliche Aufsicht wird durch Jurys und Audits ergänzt. Wirtschaftliche Anreize verhindern Manipulationen, während Transparenz böswilliges Verhalten sichtbar macht.
Indem Buterin die KI-Governance mit Blockchain und Handel verknüpft, deutet er an, dass Schwächen in zentralisierten KI-Systemen das Interesse an dezentralen Lösungen, die meist auf Ethereum basieren, steigern könnten. Darüber hinaus bieten Token wie Render Network’s RNDR und The Graph’s GRT Infrastruktur für KI-Berechnungen und profitieren somit von der Entwicklung. Händler könnten zudem ETH und die Token für Arbitrage bei Marktschwankungen nutzen.
On-Chain-Daten zeigen, dass es mehr ETH-Transaktionen im Zusammenhang mit KI-bezogenen Smart Contracts gibt und dass KI-Governance-Probleme auch Technologiewerte beeinflussen können, wobei Unternehmen wie NVIDIA und Microsoft in KI-Investitionen involviert sind. Insgesamt wies Buterin darauf hin, dass Info Finance schnellere Korrekturen ermöglicht, fehlerhafte Modelle ersetzt und Fehlverhalten bestraft. Er fügte hinzu, dass Jury- und Stichprobenprüfungen die Ausbreitung von Ausnutzung verhindern werden.
Der Beitrag „Buterin Pushes Info Finance to Stop Exploits in AI Governance“ erschien zuerst auf Cryptotale.
Haftungsausschluss: Der Inhalt dieses Artikels gibt ausschließlich die Meinung des Autors wieder und repräsentiert nicht die Plattform in irgendeiner Form. Dieser Artikel ist nicht dazu gedacht, als Referenz für Investitionsentscheidungen zu dienen.
Das könnte Ihnen auch gefallen
Anti-Terror-Einheiten auf den Straßen, der Louvre geschlossen! Frankreich erlebt am Wochenende eine neue Welle von Protesten, Unruhen drohen sich auf Europa auszubreiten.
Frankreich ist in eine neue Welle gewaltsamer Proteste geraten, 70.000 Sicherheitskräfte wurden eilig eingesetzt, in mehreren Städten gilt eine Ausgangssperre, und Macron hat Fehler im Umgang mit der Situation eingeräumt. Die Finanzmärkte haben bereits Alarm geschlagen – der Spread zwischen französischen und deutschen Staatsanleihen ist auf den höchsten Stand seit der Eurokrise gestiegen, der PMI ist unter die Wachstumsschwelle gefallen, Luxusboutiquen wurden verbarrikadiert, der Louvre wurde geschlossen und die Stadtverwaltung von Paris rechnet mit Verlusten in zweistelliger Millionenhöhe. Das Unruhefeuer droht sich zudem auf Europa auszuweiten.
Einst kauften sie wie verrückt, doch jetzt ist das „Arsenal“ um 51 Billionen Won geschrumpft! Südkoreanische Kleinanleger können nicht mehr kaufen.
Innerhalb von vier Monaten ist der „Ammunitionsvorrat“ südkoreanischer Privatanleger um 36,5 % gesunken und hat das Niveau zu Jahresbeginn erreicht. Obwohl Privatanleger kumuliert Netto-Käufe von über 75 Billionen Won aufweisen und weiterhin Käufe tätigen, ist der Zufluss von frischem Kapital versiegt und die Auffüllung verläuft deutlich langsamer als der Verbrauch. Hinzu kommt, dass der KOSPI im Monatsverlauf um fast 20 % eingebrochen ist, ausländische Investoren weiterhin Nettoverkäufe tätigen und Sorgen über Kreditrisiken im Zusammenhang mit KI bestehen. Ohne die Unterstützung durch privates Kapital dürfte der südkoreanische Aktienmarkt kurzfristig kaum eine nachhaltige Erholung erfahren.
Die Auflösung des „Konsenshandels“ und die Geburt eines neuen Konsenses! Goldman Sachs erklärt: Warum institutionelle Anleger derzeit große Positionen in KI abbauen
Die extrem überfüllten Trades des "Long AI, Short alles" werden schmerzhaft aufgelöst – der Markt gibt sich nicht mehr mit einer "Geldverbrennungs-Erzählung" zufrieden. Die hyperskalierenden Cloud-Anbieter müssen neben den Kapitalausgaben von 1,1 Billionen US-Dollar nun echte und sichtbare Einnahmen erzielen. Ein Stromdefizit von 40-50 Gigawatt, steigende Kapitalkosten und der makroökonomische Paradigmenwechsel vom "Überausgaben-Zeitalter" wandeln AI-Trades von Glaubensfragen zu einem harten Monetarisierungstest.
Die Investitionsausgaben für KI geraten in ein Dilemma: Eine Beschleunigung belastet den Cashflow, eine Verlangsamung gefährdet die Wachstumsgeschichte.
Nomura Securities ist der Ansicht, dass die KI-Investment-Story in einem inneren Widerspruch steckt: Wenn Hyperscale-Cloud-Anbieter ihre Investitionsausgaben beschleunigen, wird der freie Cashflow weiterhin verbraucht und die Nachhaltigkeit der Finanzierung wird in Frage gestellt; wenn sie verlangsamen, deutet dies darauf hin, dass die Nachfrage nach KI und die Gewinnerwartungen nicht erfüllt werden. Beide Wege führen zum Ausverkauf. Die im September durch die „KI-Agenten-Hysterie“ aufgebauten überfüllten Long-Positionen wurden durch negative Katalysatoren zu massiven Stop-Lossen gezwungen und breiteten sich auf US-Staatsanleihen, Wechselkurse und den Rohstoffmarkt aus, was zu einer systemischen Entschuldung führte.
Krypto-Preise
Mehr
