Gary Gensler warnt vor den Auswirkungen von KI auf Finanzsysteme, geht aber nicht auf Kryptowährungen ein

Der Vorsitzende der Securities and Exchange Commission (SEC), Gary Gensler, hat bereits davor gewarnt, dass künstliche Intelligenz (KI) zur nächsten Finanzkrise führen könnte. In einem virtuellen Kamingespräch, das die gemeinnützige Organisation Public Citizen am 17. Januar veranstaltete, ging Gensler erneut auf dieses Thema ein.

Gensler sprach ausführlich darüber, wie KI Märkte und Investoren manipulieren kann und warnte vor “KI-Washing“, Algorithmus-Voreingenommenheit und mehr. Zu Beginn des Gesprächs stellte Gensler auch klar, dass die Themen, die er ansprechen würde, nur die traditionellen Finanzmärkte betreffen würden. Das wurde deutlich, als der Moderator Gensler fragte, ob er den Begriff “KI-Washing” geprägt habe, woraufhin Gensler antwortete: “Nun, Sie sagten ‘Coin’ und heute ist ein kryptofreier Tag, also ist es das nicht.”

Gensler warnt vor KI-Betrug und Manipulation

Gensler erklärte weiter, dass sich KI-Wäsche auf das Interesse von Investoren oder Arbeitnehmern bezieht, wenn sie Behauptungen über ein neues Technologiemodell aufstellen. “Wenn ein Emittent Geld von der Öffentlichkeit aufnimmt oder einfach nur seine regulären Quartalsberichte einreicht, muss er in diesen Berichten wahrheitsgemäß sein”, sagte er.

Laut Gensler hat die SEC festgestellt, dass Emittenten bei der Einführung neuer Technologien wahrheitsgemäß über ihre Behauptungen, die Risiken und die Art und Weise, wie diese Risiken gemanagt und gemildert werden, berichten müssen. Der SEC-Vorsitzende wies auch darauf hin, dass es angesichts der Tatsache, dass KI in die Struktur der Finanzmärkte integriert ist, Wege geben muss, um sicherzustellen, dass die Menschen hinter diesen Modellen die Öffentlichkeit nicht in die Irre führen.

“Betrug ist Betrug, und Menschen werden KI nutzen, um die Öffentlichkeit zu täuschen, sei es durch Deep Fake oder auf andere Weise. Es ist immer noch gegen das Gesetz, die Öffentlichkeit in dieser Hinsicht nicht in die Irre zu führen”, sagte Gensler. Gensler fügte hinzu, dass KI für einen gefälschten Blogbeitrag verantwortlich war, in dem sein Rücktritt im Juli 2023 angekündigt wurde. Kürzlich wurde der offizielle X-Account der SEC mit Fake News in Verbindung gebracht, in denen die Genehmigung eines börsengehandelten Bitcoin-Spotfonds (ETF) verkündet wurde, was Gensler auf einen Systemhack und nicht auf KI zurückführte.

The @SECGov twitter account was compromised, and an unauthorized tweet was posted. The SEC has not approved the listing and trading of spot bitcoin exchange-traded products.

— Gary Gensler (@GaryGensler) January 9, 2024

Darüber hinaus erwähnte Gensler, dass KI eine neue Form des “Narrowcasting” ermöglicht hat. Laut Gensler ermöglicht das Narrowcasting KI-gestützten Systemen, bestimmte Personen auf der Grundlage von Daten aus vernetzten Geräten anzusprechen. Das sollte zwar nicht überraschen, aber Gensler warnte, dass ein Konflikt entsteht, wenn ein System die Interessen eines Robo-Advisors oder eines Maklers über die Interessen der Anleger stellt.

Solche Probleme können auch zu Bedenken hinsichtlich der Voreingenommenheit von Algorithmen führen. Laut Gensler kann KI z. B. dazu genutzt werden, um auszuwählen, welche Lebensläufe bei Bewerbungen gelesen werden sollen oder wer für eine Finanzierung in Frage kommt, wenn es um den Kauf eines Hauses geht. In diesem Zusammenhang wies Gensler darauf hin, dass die von Algorithmen verwendeten Daten gesellschaftliche Vorurteile widerspiegeln können. Er sagte:

“Der unstillbare Wunsch nach Daten und die mehrdimensionale Rechenarbeit stellen die KI vor eine Reihe von Herausforderungen. Die Mathematik, die dahinter steckt, macht es schwer, die endgültigen Entscheidungen des Algorithmus zu erklären. Er kann vorhersagen, wer einen besseren Kredit hat, oder er kann vorhersagen, wie er seine Produkte vermarkten und wie er die Preise für seine Produkte gestalten sollte. Aber was ist, wenn das auch mit der Rasse, dem Geschlecht oder der sexuellen Orientierung einer Person zusammenhängt? Das wollen wir nicht, und es ist auch nicht erlaubt.

Dies stellt zwar eine Herausforderung dar, aber Gensler wies darauf hin, dass diese mit der Zeit gelöst werden wird, da Menschen die Hyperparameter hinter den Algorithmen festlegen. Gensler wies darauf hin, dass Menschen die Verantwortung dafür übernehmen müssen, zu verstehen, warum KI-basierte Algorithmen auf bestimmte Weise funktionieren. “Wenn der Mensch nicht erklären kann, warum, welche Verantwortung hat man dann als Gruppe von Menschen, die ein Modell einsetzen, um das Modell zu verstehen? Ich denke, das wird sich in einigen Jahren zeigen und schließlich auch vor Gericht”, so Gensler.

Zentralisierte KI stellt ein Risiko für den gesamten Finanzsektor dar

Alles in allem ist Gensler der Meinung, dass KI an sich positiv für die Gesellschaft ist, ebenso wie die Effizienz und der Zugang, den sie auf den Finanzmärkten bieten kann. Gensler warnte jedoch davor, dass eines der größten Risiken der KI in der Zentralisierung liegt. “Die Sache mit der KI ist die, dass alles, was damit zu tun hat, mit der Ökonomie von Netzwerken zu tun hat, so dass es zu einer Zentralisierung kommen wird. Ich glaube, es ist unvermeidlich, dass wir an den Fingern einer Hand ablesen können, wie viele große Modelle und Datenaggregatoren es gibt”, sagte er. Da nur sehr wenige große Modelle und Datenaggregatoren ins Spiel kommen, glaubt Gensler, dass es wahrscheinlich zu einer “Monokultur” kommen wird. Das könnte bedeuten, dass sich Hunderte oder Tausende von Finanzakteuren auf ein zentrales Daten- oder KI-Modell verlassen. Gensler wies außerdem darauf hin, dass die Finanzaufsichtsbehörden keine Kontrolle über die zentralen Knotenpunkte haben. Er sagte:

“Der gesamte Finanzsektor verlässt sich indirekt auf diese zentralen Knotenpunkte, und wenn diese Knotenpunkte etwas falsch machen, geht die Monokultur in eine Richtung. Das bedeutet ein Risiko für die Gesellschaft und den Finanzsektor insgesamt.”

Gensler fügte hinzu, dass er seine internationalen Kolleginnen und Kollegen weiterhin für die Herausforderungen im Zusammenhang mit KI und die Auswirkungen auf die traditionellen Finanzsysteme sensibilisieren wird. “Das Bewusstsein steigt, aber ich werde auf unserer Spur der Finanzdienstleistungen und des Wertpapierrechts bleiben”, sagte er.