Generative KI und das Wahre, Gute und Schöne

Hunderttausende von Entwicklern und Beratern bringen Künstliche Intelligenz (KI) voran, haben aber ganz unterschiedliche Interessen. Millionen von Nutzern probieren Text-, Bild- und Videogeneratoren aus oder komponieren Lieder. Firmen beschäftigen Chatbots und Industrie- und Serviceroboter, die mit großen Sprachmodellen verbunden sind. Trotz aller Fortschritte und Erfolge mehren sich warnende Stimmen von KI-Experten, Philosophen, Psychologen und Historikern. Der Wirtschaftsinformatiker und Technikphilosoph Oliver Bendel kennt die Risiken generativer KI, aber vor allem auch Chancen und weiß, welche Konzepte, Prototypen und Produkte den Alltag und die Arbeit bereichern und verbessern. Hierüber hielt er einen Vortrag für die Daimler und Benz Stiftung in der Reihe „Dialog im Museum“. Ein Nachbericht von Miriam Weiss

 

„ChatGPT war Ende 2022 ein Paukenschlag, weil die künstliche Intelligenz plötzlich in unseren Händen war“, sagt Oliver Bendel, einer der führenden Technikphilosophen im deutschsprachigen Raum. Er ist seit 2009 Professor am Institut für Wirtschaftsinformatik der Fachhochschule Nordwestschweiz und forscht zu KI-Systemen und Robotern aus der Perspektive der Technikphilosophie. Sein besonderes Interesse gilt dem Verhältnis zwischen Mensch und Maschine und darauf aufbauend der Frage, wie die Maschine der Gegenwart und der Zukunft beschaffen sein sollte.

 

Robotik und KI

„Die Robotik beschäftigt sich mit dem Entwurf, der Gestaltung, der Steuerung, der Produktion und dem Betrieb von Robotern, etwa von Industrie- und Servicerobotern. Die Soziale Robotik erforscht und entwickelt soziale Roboter, die für den Umgang mit Menschen und Tieren gedacht sind. Zwischen beiden Bereichen gibt es aber auch Überschneidungen“, erklärt Bendel zentrale Begriffe seines Fachgebiets.

Auch arbeitet er an Definitionen zur künstlichen Intelligenz, die er aber bewusst als „vorläufiges Ergebnis“ verstanden wissen will: „In der künstlichen Intelligenz geht es um die Schaffung von Computersystemen, die die Ergebnisse menschlicher oder tierischer Verstandestätigkeiten erzielen, ergänzen oder übertreffen können. Bei generativer KI handelt es sich um KI-basierte Systeme, mit denen etwa Bilder, Videos, Audios und Codes erstellt oder Simulationen durchgeführt werden können. Dazu zählen Textgeneratoren, die nach einer Eingabe beziehungsweise Anweisung des Benutzers,  einem Prompt, alle möglichen Texte hervorbringen, zusammenfassen, bewerten, übersetzen, editieren oder paraphrasieren. Zudem sind sie als Dialogsysteme nutzbar, im Sinne von Chatbots und Sprachassistenten. Textgeneratoren und Chatbots wie ChatGPT und DeepSeek beruhen auf großen Sprachmodellen (Large Language Models, kurz LLMs) oder anderen KI-Modellen.“

 

Ethische Fragen zu KI, Robotern und Maschinen

Im Bereich der Technikethik setzt sich Bendel mit moralischen Fragen des Technik- und Technologieeinsatzes auseinander. Während die KI-Ethik sich besonders den moralischen Herausforderungen bei der Entwicklung und Nutzung von KI-Systemen widmet, fragt die Roboterethik unter anderem nach der Verantwortung und nach den Rechten und Pflichten von Robotern. Bendel vertritt den Standpunkt, dass Roboter, Computer- und KI-Systeme keine Verantwortung tragen können. Zwar bezeichnet er sich als entschiedener Gegner von Rechten für Roboter, aber er stellt fest: „Ich halte es für notwendig, dass sich Roboter an bestimmte Regeln halten, die wir ihnen geben. Das können auch moralische Regeln sein.“

 

Von der Trias des Wahren, Guten und Schönen zu Anwendungen generativer KI

Die von Platon formulierte Trias des Wahren, Guten und Schönen dient Bendel als Inspiration für seine Systematik des Künstlichen. Dabei zog er von der Ideengeschichte einer bestimmten künstlichen Kreatur aus der Antike Parallelen zur Gegenwart und zeigte Beispiele generativer KI auf. „Meine Behauptung ist, dass Roboter oder überhaupt künstliche Kreaturen schon vor mehreren Tausend Jahren den Menschen als Idee präsent waren“, so Bendel.

Von der antiken Legende des sprechenden Kopfes von Vergil macht der Technikphilosoph einen Sprung zum Chatbot ChatGPT, den OpenAI Ende 2022 herausbrachte. „Plötzlich hatte die Öffentlichkeit Zugriff auf ein mächtiges KI-Werkzeug und konnte Texte generieren lassen und komplexe Gespräche führen. Plötzlich waren wir aber auch abhängig davon“, so Bendel. Aus seiner eigenen Forschungsarbeit stellte er Chatbots vor, mit denen die Nutzer in gefährdeten Sprachen wie Vallader, einem Idiom des Rätoromanischen, und Baskisch kommunizieren können (@llegra und kAIxo, 2023 bzw. 2024). Doch weil an Schulen und Hochschulen immer mehr Schüler beziehungsweise. Studierende ihre Arbeiten mithilfe von Textgeneratoren erstellen, sieht er hier auch ein riesiges Problem: „Die Schüler erlernen so das Schreiben nicht mehr in angemessener Weise, die Studierenden nicht mehr das wissenschaftliche Schreiben. Zudem verlieren sie ihre individuelle Stimme.“

Pandora wurde von Hephaistos, dem Gott der Schmiede, geschaffen. „Sie war zwar dumm, böswillig und faul“, erläutert Bendel, „aber auch schön, um Epimetheus, dem Bruder des Prometheus, zu gefallen.“ Von Pandora schlägt er einen Bogen zur Ästhetik humanoider Roboter und verweist auf das American Smile, das offenbar bei Bildern von lachenden Menschen dominiere, die mit dem Bildgenerator DALL-E 3 erzeugt wurden. Weiterhin nennt er die im Jahr 2024 gestartete Modekampagne der Firma Mango, bei der digitale Models eingesetzt wurden. „Generative KI bringt das Schöne hervor, allerdings auch das Stereotype, und sie lässt Verzerrungen und Vorurteile aller Art entstehen“, kritisiert er. „Der langwierige Prozess der Erstellung, das Lernen aus Fehlern, die Verbesserung im Laufe der Zeit, die Freude beim endlich sich einstellenden Erfolg – all das fällt weg.“

 

Hoher Stromverbrauch der KI

„Generative KI wurde ab 2022 zum Werkzeug der Massen. Damit fand eine Art Demokratisierung der KI statt. Es entstanden Chancen, auch für das Wahre, Gute und Schöne“, resümiert Bendel. „Zugleich entstanden Risiken, wenn generative KI in die falschen Hände geriet. Kinder, Jugendliche und junge Erwachsene erlernen grundlegende Kulturtechniken nicht mehr, Kriminelle stehlen Stimmen und Identitäten und entwickeln gefährliche Stoffe.“ Weitere Probleme beziehen sich etwa auf Urheberrecht und -schutz, auf Überwachungsmöglichkeiten aller Art sowie auf die Macht der Konzerne. Ebenfalls kritisch sieht Bendel den hohen Strom- und Ressourcenverbrauch durch das Trainieren und Nutzen von generativen KI-Systemen.

 

„Und was bedeutet das für unsere Zukunft? Sollen wir die Forschung in der KI einstellen? Sollen wir die generative KI den Menschen wieder wegnehmen? Sollen wir sie grundsätzlich verbieten?“, fragt Bendel und ergänzt: „Das kann kaum die Lösung sein. Aber wir sollten mehr denn je gemeinsam über Technologien entscheiden, die uns alle angehen, und Instrumente schaffen, um ihren Missbrauch zu verhindern.“