Die Fähigkeiten von auf künstlicher Intelligenz basierenden generativen Anwendungen sind enorm und das Potenzial ist noch grösser. Allerdings werden auch die negativen Seiten immer deutlicher. Der «Visual Capitalist» hat sie zusammen mit der KI-Firma Verses in einer Tabelle dargestellt und erläutert.
Seit über einem Jahr sind nun generative künstliche Intelligenzen (KIs) den Massen zugänglich. Intelligent oder kreativ sind diese Werkzeuge allerdings nicht. Es handelt sich im Grunde um mathematische Prozesse, die von den Daten abhängen, mit denen man sie «trainiert». Das ist eine der Ursachen verschiedener Probleme, die KIs inzwischen zeigen.
Gemeinsam mit dem KI-Unternehmen Verses haben nun Katie Jones und Sabrina Fortin von Visual Capitalist einige Bedenken in Bezug auf generative KI-Tools anhand von Daten aus einer Vielzahl unterschiedlicher Quellen visualisiert. Viele davon fügen sie in eine der folgenden Kategorien ein: Qualitätskontrolle und Datengenauigkeit, ethische Überlegungen oder technische Herausforderungen – wobei es natürlich ein gewisses Mass an Überschneidungen gibt.
Im Folgenden erläutern Jones und Fortin die verschiedenen Probleme und ordnen sie ein:
Problem 1: Verzerrung rein, Verzerrung raus
Thema: Qualitätskontrolle und Genauigkeit
Eines der kritischen Probleme der generativen KI liegt in ihrer Tendenz, Verzerrungen in den Daten zu reproduzieren, auf denen sie trainiert wurde. Anstatt Verzerrungen abzuschwächen, verstärken diese Tools sie oft oder halten sie aufrecht. Das wirft Fragen nach der Genauigkeit ihrer Anwendungen auf – was zu weitaus grösseren ethischen Problemen führen könnte.
Problem 2: Das Black-Box-Problem
Thema: Ethische und rechtliche Erwägungen
Eine weitere grosse Hürde bei der Einführung von generativer KI ist die mangelnde Transparenz ihrer Entscheidungsprozesse. Da die Denkprozesse dieser KI-Systeme oft nicht interpretierbar sind, ist es schwierig, ihre Entscheidungen zu erklären, vor allem, wenn in kritischen Fragen Fehler auftreten.
Erwähnenswert ist, dass dies ein allgemeines Problem mit KI-Systemen ist und nicht nur mit generativen Tools.
Problem 3: Hohe Kosten für Ausbildung und Unterhalt
Thema: Komplexität und technische Herausforderungen
Das Training von generativen KI-Modellen wie dem Large Language Model (LLM), ChatGPT, ist extrem teuer, wobei die Kosten aufgrund der erforderlichen Rechenleistung und Infrastruktur oft Millionen von Dollar erreichen. So bestätigte der ehemalige CEO von OpenAI, Sam Altman, dass das Training von ChatGPT-4 satte 100 Millionen Dollar kostete.
Problem 4: Geistloses Nachplappern
Thema: Qualitätskontrolle und Genauigkeit
Trotz ihrer fortschrittlichen Fähigkeiten sind generative KIs durch die Daten und Muster eingeschränkt, auf denen sie trainiert wurden. Diese Einschränkung führt zu Ergebnissen, die möglicherweise nicht die Breite des menschlichen Wissens oder verschiedene Szenarien abdecken.
Problem 5: Anpassung an menschliche Werte
Thema: Ethische und rechtliche Erwägungen
Im Gegensatz zu Menschen sind generative KI nicht in der Lage, die Konsequenzen ihres Handelns im Einklang mit menschlichen Werten zu bedenken.
Auch wenn Fälle wie der von der KI generierte «Balenciaga-Papst» harmlos erscheinen mögen, muss man sich darüber im Klaren sein, dass Deepfakes auch für schädlichere Zwecke eingesetzt werden könnten, zum Beispiel für die Verbreitung von Falschinformationen im Falle einer öffentlichen Gesundheitskrise.
Dies unterstreicht den Bedarf an mehr Rahmenbedingungen, die sicherstellen, dass diese Systeme innerhalb ethischer Grenzen arbeiten.
Problem 6: Stromfresser
Thema: Komplexität und technische Herausforderungen
Die Auswirkungen der generativen KI auf die Umwelt sind nicht zu übersehen. Modelle wie ChatGPT verbrauchen so viel Strom wie 33’000 US-Haushalte, wobei eine einzige Anfrage 10 bis 100 Mal mehr Strom verbraucht als eine E-Mail.
Problem 7: Halluzinationen
Thema: Qualitätskontrolle und Genauigkeit
Generative KI-Modelle sind dafür bekannt, dass sie bei Datenlücken falsche Aussagen oder Bilder erzeugen. Das weckt Bedenken hinsichtlich der Zuverlässigkeit ihrer Ergebnisse und möglicher Konsequenzen.
In einem Werbevideo von Google Bard behauptete der Chatbot beispielsweise fälschlicherweise, dass das James Webb-Weltraumteleskop die ersten Bilder eines Planeten ausserhalb des Sonnensystems aufgenommen hat.
Problem 8: Verletzung von Urheberrechten und geistigem Eigentum
Thema: Ethische und rechtliche Erwägungen
Die ethische Nutzung von Daten ist von grösster Bedeutung, wenn man bedenkt, dass mehrere generative KI-Tools sich urheberrechtlich geschützte Werke ohne Zustimmung, Anerkennung oder Entschädigung aneignen und damit die Rechte von Künstlern und Schöpfern verletzen.
OpenAI hat vor kurzem ein Entschädigungsprogramm namens Copyright Shield eingeführt, das die Kosten für Klagen wegen Urheberrechtsverletzungen für bestimmte Kundengruppen abdeckt, anstatt urheberrechtlich geschütztes Material aus dem Trainingsdatensatz von ChatGPT zu entfernen.
Problem 9: Statische Informationen
Thema: Komplexität und technische Herausforderungen
Um generative KI-Modelle auf dem neuesten Stand zu halten, sind erhebliche Rechenressourcen und Zeit erforderlich, was eine enorme technische Herausforderung darstellt. Einige Modelle sind jedoch für inkrementelle Aktualisierungen ausgelegt und bieten eine mögliche Lösung für dieses komplexe Problem.
Bei dem Bestreben, die Möglichkeiten der künstlichen Intelligenz nutzbar zu machen, muss ein sorgfältiges Gleichgewicht gefunden werden, um ethische, transparente und wirkungsvolle Fortschritte in diesem transformativen Bereich zu gewährleisten.
Schreibe einen Kommentar
Du musst angemeldet sein, um einen Kommentar abzugeben.