Expertin Alena Buyx über Künstliche Intelligenz: Chancen und Risiken erklärt

Frau Buyx, Sie waren Vorsitzende des Deutschen Ethikrats und sind Professorin. Jetzt moderieren Sie einen Wissenschaftstalk im Fernsehen. Was hat Sie an diesem Schritt gereizt?

Alena Buyx: Mir ist es ein tiefes Anliegen, meine Begeisterung für Wissenschaft in die Öffentlichkeit zu tragen. Wissenschaft ist eine der Säulen einer funktionierenden, demokratischen Gesellschaft und bietet Lösungen für eigentlich alle Probleme - gleichzeitig nehme ich wahr, dass die Skepsis gegenüber Wissenschaft wächst. Deshalb sollten wir mehr dafür tun, die Menschen dafür zu begeistern. Und - wenn ich das so simpel sagen darf - ich habe ehrlich gesagt einfach Lust darauf.

Sie waren ja selbst regelmäßig in Talksendungen wie bei Markus Lanz zu Gast. Jetzt führen Sie selbst durch ein Format. Wie hat sich Ihre Perspektive auf das Medium Talk dadurch verändert?

Alena Buyx: Das kann ich noch gar nicht abschließend sagen, weil ich es erst seit Kurzem mache. Ich habe jedenfalls großen Respekt vor denen, die das professionell beherrschen. Ich bin ja keine Moderatorin, sondern Wissenschaftlerin - und hoffe, das halbwegs unfallfrei hinzubekommen.

Besonders ist vielleicht, dass ich selbst aus der Wissenschaft komme. In meinen anderen Funktionen habe ich natürlich bereits oft Konferenzen oder Sitzungen moderiert, aber Fernsehen ist eine andere Nummer. Da geht es um Zeitstrukturen, Übergänge, wie man die Leute mitnimmt – und dabei noch möglichst entspannt wirkt. Ich gehe da mit einer gewissen Naivität ran, verlasse mich auf die Profis hinter der Kamera und versuche einfach, ein ordentliches Gespräch zu führen.

Was ist das Ziel Ihres neuen Formats und wen möchten Sie erreichen?

Alena Buyx: 3sat hat ein tolles, interessiertes, bildungsbürgerliches Publikum, das finde ich großartig. Mein Wunsch wäre darüber hinaus auch, Menschen zu erreichen, die Wissenschaft spannend finden, die aber bisher nicht zum Stammpublikum gehören. Ich bin da aber bescheiden, weil ich weiß, dass es sehr schwierig ist, ein neues Publikum zu erschließen.

Es gibt in der Medienlandschaft nur wenige Orte, wo man eine Stunde lang vertieft mit viel Ruhe gemeinsam über komplexe Themen sprechen kann. Ich glaube, es gibt ein großes Bedürfnis danach. Schauen Sie sich Formate wie den ZEIT-Podcast "Alles gesagt" oder "Jung & Naiv" von Tilo Jung an: Millionen Menschen hören oder schauen stundenlange Gespräche, wenn sie spannend sind. Ich würde mich freuen, wenn wir mit unserer Sendung da auch ein Angebot sind und Leute abholen können.

Ein Schwerpunkt Ihrer ersten Sendungen ist die Künstliche Intelligenz. Welche Fragen beschäftigen Sie da besonders?

Alena Buyx: Wir schauen uns die vielen Dinge an, bei denen KI helfen kann. Da gibt es enorm viele Beispiele, etwa aus der Forschung oder der Produktion, tolle Sachen. Wir beleuchten aber auch, dass viele Menschen KI so wahrnehmen, als ob sie bewusst wäre - und das ist sie nicht.

Die häufigste Nutzung von GenAI ist im Jahr 2025 als eine Form von Beziehungs-KI - Freundschaft, Liebe, auch Therapie. Menschen wissen zwar, dass das eine Maschine ist, aber sie nutzen sie zum Plaudern, für emotionale Nähe, Intimität, um sich Ratschläge zu holen oder Ängste zu teilen. Bei manchen verschwimmen die Grenzen zwischen Realität und Simulation, oder sie werden abhängig.

Das Problem ist: In echten menschlichen Beziehungen gibt es Grenzen - ein Freund widerspricht, macht auf Gefahren aufmerksam, setzt Limits und sagt auch mal: "Ich mache mir Sorgen um dich." Therapeuten sowieso - eine Maschine macht das nicht. Weil sie nicht bewusst ist, aber dennoch sehr echt wirkt, kann sie in manchen Fällen psychologische Probleme verstärken.

Welches konkrete Beispiel fällt Ihnen dazu ein? 

Alena Buyx: Ein bekanntes Beispiel ist der Fall eines 14-Jährigen in Florida, der sehr intensiv mit einem Beziehungs-Chatbot geschrieben hat. Die KI bestärkte ihn in seinen Gefühlen und auch in seinen suizidalen Gedanken, und er nach sich schließlich das Leben. Vor Gericht wird derzeit verhandelt, welche Verantwortung die Firma dafür trägt. Solche Fälle werfen die Frage auf, wie gefährlich es ist, wenn Chatbots unbeaufsichtigt dazu neigen, die Eingaben ihrer Nutzer zu bestätigen - das kann bei psychisch vorbelasteten Menschen problematische Tendenzen verstärken.

Es gibt noch immer Berichte von Personen, die durch KI-Chats in ihre Ängste oder Obsessionen weiter hineingezogen wurden, bis hin zu psychotischen Zuständen. Das sollte uns besorgen.

Ein weiteres Thema Ihrer Sendung ist die Frage, wie unsere digitale Lebensweise unser Gehirn überfordern kann. Was beunruhigt Sie daran besonders?

Alena Buyx: Das betrifft wirklich alle. Die psychische Gesundheit junger Menschen hat sich in den letzten 15 Jahren kontinuierlich verschlechtert, in der Pandemie sogar noch mehr.

Wir wissen aus Studien: Wer stundenlang online ist, bewegt sich weniger, ist nicht draußen, hat weniger echte soziale Kontakte. Gleichzeitig sind Plattformen so gebaut, dass sie unser Belohnungssystem permanent triggern. Das ist ein neurophysiologisches Problem und sicher ein wichtiger Faktor für die Zunahme psychischer Belastungen.

Sie sind Medizinethikerin. Welcher Fall ist Ihnen aus Ihrer Arbeit besonders im Gedächtnis geblieben?

Alena Buyx: Das sind die Situationen am Krankenbett. Zum Beispiel eine junge Frau, die eine lebensrettende Operation ablehnt - und dann wirklich stirbt. Oder ein alter, verwirrter Mann, der einsam in der Klinik stirbt, weil niemand weiß, ob und wie er weiterbehandelt werden wollte.

Auch Paare mit unerfülltem Kinderwunsch, die Behandlungen wollen, die in Deutschland verboten sind, bleiben mir im Kopf. Solche Schicksale haften.

Und was ist für Sie aktuell das spannendste medizin-ethische Thema?

Alena Buyx: Eine der spannendsten Fragen aktuell ist: Wie viel dürfen wir der KI in der Medizin überlassen? Darf eine KI medizinische Behandlungsentscheidungen treffen, etwas entscheiden, welche Krebstherapie eingesetzt oder welcher Schnitt im OP gemacht wird, oder sollte sie immer nur empfehlen?

Wenn die KI gut ist - teilweise sind Systeme schon in der Lage, Behandlungspläne zu erstellen, die weniger Fehler enthalten als menschliche Vorschläge - stellt sich die Frage, ob Ärztinnen und Ärzte sich dann daran halten müssen. Wie wir das praktisch in der Klinik gestalten, ist noch völlig offen. Auch rechtlich gibt es darauf derzeit noch keine fertigen Antworten. Das finde ich hochaktuell und unglaublich spannend.

Zum Schluss: Wen würden Sie gerne einmal in Ihrer Sendung begrüßen?

Alena Buyx: Wenn er noch leben würde: Carl Sagan. Er war ein Gigant der Wissenschaftskommunikation und hat es geschafft, ein breites Publikum für Wissenschaft zu begeistern. Ich würde ihn gern fragen: Wie würdest du das heute machen - im Zeitalter von Social Media?

Den Auftakt zum neuen "Nano Talk" macht am 28. August das Thema "KI vs. Mensch". Zu sehen ist die Sendung um 21 Uhr bei 3sat oder Livestream auf Joyn.

Dieser Beitrag wurde ursprünglich auf Joyn.de ('Behind the Screens' Deutschland) veröffentlicht.