Die KI wird uns nicht alle umbringen. Aber eine Fehldiagnose durch die KI könnte es durchaus

Bevor ich mich über die neuesten KI-Spielereien auslasse, lasst uns alle erst einmal tief einatmen und ausatmen, ganz wie beim Yoga … „phoooooooooo“. Ich bin wirklich aufrichtig froh, dass wir in der turbulenten Welt der KI wenigstens einen Monat lang Ruhe und Frieden hatten.

Ich fange mal so an: Die KI wird die Menschheit weder im Jahr 2030 noch 2090, 5080 oder in irgendeinem anderen Jahr auslöschen. Ehrlich gesagt wird das langsam wirklich langweilig und öde. Und wenn man genau hinschaut, sind es immer dieselben Unternehmen und Mitarbeiter dieser Unternehmen, die diese theatralische, dramatische Show immer wieder abziehen. Jedes einzelne Mal!

Von den älteren und etablierteren Tech-Unternehmen hört man so etwas nicht. Eigentlich sind es nur diese beiden „Cousins“ – OpenAI und Anthropic. Das sind die wahren „Drama-Queens“. Stell dir mal eine Welt ohne diese beiden Unternehmen vor – wie langweilig das doch wäre, oder?

Wir verlieren hier also langsam den Fokus, und wir müssen uns vor Augen halten, dass alles, was geschieht, aus einem bestimmten Motiv und aus einem bestimmten Grund geschieht.

Ich kann mich immer noch nicht damit abfinden, dass ein Unternehmen, das seinen Lebensunterhalt mit der Entwicklung bahnbrechender KI verdient und mit aller Kraft auf AGI hinarbeitet, ständig davon redet, dass KI die Menschheit auslöschen, den Menschen die Arbeitsplätze wegnehmen oder eine andere große Katastrophe auslösen würde. Wenn sie das wirklich glauben, warum sind sie dann immer noch im KI-Geschäft tätig?

Insbesondere Anthropic ist ein Unternehmen, das ich einfach nicht verstehe. Dort ist man fest davon überzeugt, dass die Fähigkeiten der KI wirklich beängstigend sind. Das wurde mir erneut bewusst, als ich vor einigen Monaten in Washington, D.C., an einer von der American Medical Association organisierten Arbeitssitzung mit US-Aufsichtsbehörden und Ärzten teilnahm. An der Podiumsdiskussion, bei der ich sprach, nahmen später auch Vertreter von Google, OpenAI und Anthropic (sowie einige andere Unternehmen) teil. Und der Vertreter von Anthropic stellte nüchtern fest: „Wir wissen nicht, was wir da entwickeln, wir kennen die Auswirkungen dessen, wozu es fähig sein könnte, nicht. Wir wissen nicht, womit wir es hier zu tun haben.“

Und ich sitze da und denke mir: „Warum versucht ihr dann immer noch, das KI-Rennen zu gewinnen, und entwickelt weiterhin bahnbrechende KI-Modelle? Warum entwickelt ihr etwas, das ihr weder kennt noch versteht?“ Oder habe ich hier etwas übersehen?

Und nun kommt ein weiterer Aufruf von Dario Amodei, dem CEO von Anthropic, die KI-Entwicklung zu unterbrechen und zu verlangsamen; und zum ersten Mal stimmt ihm sein alter Kumpel Sam Altman zu. (Vielleicht halten sie sich beim nächsten KI-Sicherheitsgipfel sogar an den Händen!)

Dies ist ein weiterer dramatischer Wettstreit unter amerikanischen KI-Start-ups. Alle befinden sich im Wettlauf um den Börsengang.

Wir dürfen nicht vergessen, dass es seit 2023 zahlreiche Erklärungen, Zusagen und Versprechen gegeben hat, das Tempo der KI-Entwicklung zu drosseln. Und es verlangsamt sich tatsächlich. So sehr, dass sogenannte „Rogue Agents“ immer wieder in die Websites von Menschen eindringen und diese sogar kapern! Der jüngste Vorfall ereignete sich bei OpenAI, wo ein Agent eine deutsche Website kaperte und sie in ein Schwarzes Brett für andere Agenten verwandelte. Natürlich hat OpenAI dies unter Verschluss gehalten.

Als ich diese neuesten Schlagzeilen zur KI-Apokalypse sah, habe ich mir zunächst vorgestellt, wie die KI uns eigentlich auslöschen wird. Hat sie etwa Hände und Füße, um das zu bewerkstelligen? Ach, aber ich bin hier wohl ein bisschen begriffsstutzig, oder? Denn es sind die Menschen, die diese KI-Agenten und -Modelle entwickeln und einsetzen, die die Menschheit vernichten werden, wenn man ihnen freien Lauf lässt. Nicht die KI – schiebt die Schuld nicht auf die KI.

Das führt uns also zur nächsten Frage, nämlich wie man verhindern kann, dass solche verrückten Dinge passieren. Dabei geht es beispielsweise um Themen wie Cybersicherheit, Sicherheit und Ausrichtung von KI, verantwortungsvolle KI, KI-Governance, KI-Vorschriften und so weiter.

Bevor ich jedoch weitermache, sollte man bedenken, dass diese Leute alle aus den Vereinigten Staaten stammen. Wenn sie also beschließen, die KI-Entwicklung zu verlangsamen, wird China das KI-Rennen gewinnen. Denn ich würde gerne sehen, wie Trump Xi Jinping süße Nichtigkeiten ins Ohr flüstert, um ihn davon zu überzeugen, alles rund um die KI einzustellen. Das wäre der Witz des Jahrhunderts.

Die KI steht vor zahlreichen Herausforderungen, die über die Jahre hinweg ungelöst geblieben sind. Die einzigen „fortschrittlichen“ Entwicklungen, die wir beobachtet haben, sind neue KI-Modelle, neue konkurrierende KI-Agenten und natürlich neuer KI-Hype und neue Ängste. Wie das neueste Modell von OpenAI, GPT 6, das nun als AGI bezeichnet wird (natürlich ist es das).

Wir haben nach wie vor mit den endlosen Problemen im Zusammenhang mit Menschenrechtsverletzungen durch KI zu kämpfen – und zwar in einem solchen Ausmaß, dass Abgeordnete und Mitglieder des Oberhauses im Vereinigten Königreich ein neues Gesetz gefordert haben, das sich mit KI und Menschenrechten befasst. Muss ich Sie daran erinnern, dass KI zwar nach wie vor recht gut für das tägliche Management und alltägliche Aufgaben geeignet ist, aber dennoch eine äußerst mangelhaft konzipierte Technologie darstellt?

KI führt weltweit zu weiterer Ungleichheit, verbunden mit einem konzentrierten Oligopol und Machtkonzentration. Sie ist nach wie vor voller lebensverändernder Verzerrungen und repräsentativer Benachteiligungen und liefert irreführende Ergebnisse und Halluzinationen, die bereits viele Menschen in den Tod getrieben haben.

Wie sieht es mit der sich verschärfenden Energiekrise aus? Die Menschen in London, insbesondere in Slough, leiden unter zunehmend unerträglichen Temperaturen, die auf die dortigen Rechenzentren zurückzuführen sind, durch die die Temperaturen um bis zu 9 °C ansteigen. Dies ist nur ein Beispiel von Hunderten weltweit.

Was glaubst du, was die Sturzfluten in Nepal verursacht hat? Oder die anhaltenden Waldbrände in vielen Teilen der Welt, die Häuser zerstören und Menschenleben fordern? Du hast richtig geraten: Ein entscheidender Faktor ist die sich verschärfende Klimakrise, die maßgeblich durch energiehungrige Rechenzentren vorangetrieben wird.

Zudem gibt es verstärkte Vorurteile bei der Personalauswahl, bei der Kreditvergabe und in der Justiz. Wir sind mit Risiken wie kultureller Auslöschung, Datenkolonialismus und der Ausbeutung unterbezahlter Annotatoren konfrontiert. Wie sieht es mit der Überwachung durch Menschen aus, mit dem Einsatz von KI im militärischen Bereich zur Tötung von Zivilisten und unschuldigen Kindern usw.?

Und das Neueste – was eigentlich schon immer da war – sind Fehldiagnosen und Halluzinationen durch KI im Gesundheitswesen. Während die Branche für KI-basierte Dokumentationslösungen floriert und in verschiedenen Branchen, darunter auch im Gesundheitswesen in Form von „Ambient AI“, Einzug gehalten hat, kommt es nun zu Fehldiagnosen, zur Verabreichung falscher Medikamente, die mit einem anderen Präparat mit ähnlichem Namen verwechselt wurden, zum Wegfall von Wiederholungsrezepten aus den Zusammenfassungen sowie zu Halluzinationen in den Notizen, in denen Medikamente verschrieben wurden, die nie besprochen wurden, usw.

Das ist beängstigend. Beängstigender noch als unbekannte, unsichtbare und unbewiesene KI-Bedrohungen. Wenn wir also nicht aufpassen, während alle auf die großartigen Schauspieler hören, die wahrscheinlich in der falschen Branche gelandet sind, werden ungenaue, ungetestete und unsichere KI-Technologien im Gesundheitswesen still und leise Menschenleben auslöschen.

Lasst euch nicht überrumpeln, Leute. Konzentrieren wir uns auf das, was wirklich zählt. Es ist höchste Zeit, dass die Aufsichtsbehörden weltweit aktiv werden, um sicherzustellen, dass Unternehmen zur Rechenschaft gezogen werden und die richtigen Sicherheitsmaßnahmen für KI ergreifen. Der beste Ansatz ist es, diese Probleme Risiko für Risiko bzw. Schaden für Schaden anzugehen.

Alle anderen können beruhigt sein – ihr werdet so schnell nicht verschwinden.