„Falsche Audiodateien im Umlauf“

Vor kurzem hat die Tagesschau eine Meldung veröffentlicht, in der sie warnt, dass von ihr gefälschte, KI-generierte Audiodateien im Umlauf sind. Das ist nicht der erste Fall dieser Art und nur der Auftakt von immer mehr solchen Meldungen.

Generative KI-Werkzeuge sind mittlerweile so weit entwickelt, dass sie Ergebnisse liefern, die für viele Menschen überzeugend sind. Diese Werkzeuge können für alles Mögliche genutzt werden, auch für böswilliges Verhalten. Und wie wir sehen, tun das bereits einige Leute – mehr werden folgen, in immer größerem Umfang. Was das für die Gesellschaft bedeutet, lässt sich nur erahnen.

Einige schlagen vor, dass es möglich sein könnte, entsprechende Akteur:innen mithilfe von KI zu überwachen, da sie bestimmt auch in anderen Bereichen ihres Lebens Anzeichen dafür zeigen, Arschlöcher zu sein. Aber höchstwahrscheinlich ist das nicht möglich und es ist grundsätzlich eine schlechte Idee, Leute unter Generalverdacht zu stellen und alles zu überwachen.

Deshalb gibt es AI-Alignment. Das ist der Fachbegriff dafür, wie verhindert werden soll, dass KI bei schrecklichen Dingen hilft und KI-Systeme stattdessen auf die beabsichtigten Ziele, Vorlieben oder ethischen Prinzipien der Menschheit ausgerichtet werden sollen. (Auf die wir uns nicht einmal einigen können.)

Doch auch der Zug ist abgefahren: Du kannst bereits „fehlausgerichtete“ LLMs auf dein Notebook herunterladen oder bald schon auf deinem Handy laufen lassen – und diese Technologie wird nicht mehr verschwinden. Also liegt die Herausforderung nicht darin, KI auszurichten, sondern entweder die Leute dazu zu bringen, keine idiotischen Dinge anzustellen, oder sich daran anzupassen, dass sie es tun. Leider ist klar, was davon wir nur machen können. Und es wird ein Chaos werden.

Gordon Brander hat wohl recht, wie diesen Null-Vertrauens-Umgebungen, die unsere soziale Wirklichkeit inzwischen beeinflussen, bereits jetzt begegnet werden müsste:

  • Alles mit einem Schlüssel signieren, den nur wir kontrollieren,
  • Vertrauensnetzwerke aufbauen, indem wir anderen folgen und mit ihnen Schlüssel austauschen, und
  • jegliche Reputation und Bescheinigungen darüber schichten.

Diese technische Lösung und der damit verbundene Anspruch lassen allerdings erahnen, wie weitläufig das verstanden und umgesetzt werden wird. Und das, während es offensichtlich ist, dass wir uns in einer Welt befinden, in der Vertrauen nicht mehr einfach vorausgesetzt werden kann, sondern aktiv aufgebaut und gepflegt werden muss.

Spannende Zeiten, in der Tat.

Danke an Christoph für den Link zur Meldung und damit der Idee zu diesem Blog-Post.

Dieser Post ist Teil 14 von 15 in der Sammlung .