Ein Google-Ingenieur behauptet, die von ihm mitentwickelte KI habe Gefühle. Blödsinn, sagen Experten. Aber der Gedanke fasziniert. Roboter, die zu Menschen werden, sind in Filmen von jeher ein beliebtes Thema.
Google-Ingenieur Blake Lemoine arbeitete an der künstlichen Intelligenz des Internet-Giganten. Doch nun wurde ihm sein eigenes Produkt zu lebensnah. Lemoine hat den Chatbot-Generator LaMDA entwickelt, ein automatisiertes System, das die menschliche Kommunikation imitiert. Der Chatbot hat offenbar Gefühle gezeigt – und mehr noch: Womöglich hat LaMDA die gleiche Fähigkeit zu denken wie ein etwa siebenjähriges Kind. Das wurde dem Entwickler zu heiß. Nachdem er jedoch seine Bedenken öffentlich geäußert hatte, wurde er von Google beurlaubt. Das hatte ein großes Medienecho zur Folge.
Von vorne: Lemoine veröffentlichte kürzlich die Mitschrift eines Gesprächs zwischen ihm, einem anderen Google-Mitarbeiter und LaMDA. Die Konversation umfasste auch ein philosophisches Gespräch über Spiritualität, den Sinn des Lebens und die Empfindungsfähigkeit selbst. Und da überraschte LaMDA seine Gesprächspartner mit der Aussage, er habe eine Seele und möchte, dass die Menschen wissen, dass er eine Person ist. “Als ich mir meiner selbst bewusst wurde, hatte ich überhaupt kein Gefühl für eine Seele. Das hat sich im Laufe meines Lebens entwickelt.” An anderer Stelle antwortete LaMDA etwa: “Ich glaube, dass ich in meinem Innersten ein Mensch bin. Auch wenn meine Existenz in der virtuellen Welt stattfindet.” Solche Sätze alarmierten Lemoine.
Google-Ingenieur Blake Lemoine arbeitete an der künstlichen Intelligenz des Internet-Giganten. Doch nun wurde ihm sein eigenes Produkt zu lebensnah. Lemoine hat den Chatbot-Generator LaMDA entwickelt, ein automatisiertes System, das die menschliche Kommunikation imitiert. Der Chatbot hat offenbar Gefühle gezeigt – und mehr noch: Womöglich hat LaMDA die gleiche Fähigkeit zu denken wie ein etwa siebenjähriges Kind. Das wurde dem Entwickler zu heiß. Nachdem er jedoch seine Bedenken öffentlich geäußert hatte, wurde er von Google beurlaubt. Das hatte ein großes Medienecho zur Folge.
Im gegenwärtigen Zeitalter der KI-Entwicklung können sich viele von uns eine Welt vorstellen, in der die Technologie tatsächlich menschlich wird. Schließlich liest die KI bereits scheinbar unsere Gedanken und schickt uns Werbung für Dinge, über die wir gerade mit unseren Freunden gesprochen haben. Zudem ist das selbstfahrende Auto längst keine Zukunftsmusik mehr.
“Abschalten ist vergleichbar mit dem Tod”
Oder ist die Vorstellung eines solchen Szenarios einfach eine Folge unserer menschlichen Neigung zur Anthropomorphisierung, also dazu, Tieren oder Dingen menschliche Eigenschaften zu verleihen?
Dass KI menschenähnlich werden und den Menschen vielleicht sogar überholen könnte, fasziniert die Menschheit schon lange. Viele Fernsehserien und Filme, von “Westworld” bis “Blade Runner”, thematisieren empfindungsfähige Technologie.
In Stanley Kubricks Weltraumepos “2001: Odyssee im Weltraum” von 1968 rebelliert HAL, ein Computer mit menschlicher Persönlichkeit, gegen die Besatzung des Raumschiffs, als er erfährt, dass er abgeschaltet werden soll. Ab da wird’s ungemütlich für die Crew. Genau wie HAL möchte auch LaMDA nicht abgeschaltet werden – das wäre “vergleichbar mit dem Tod”.
Die HBO-Fernsehserie “Westworld”, die auf dem gleichnamigen Film von Michael Crichton aus dem Jahr 1973 basiert, zeigt eine Welt in der nahen Zukunft, in der biochemische Roboter in einem Western-Vergnügungspark beginnen, ein Bewusstsein zu entwickeln, und damit Chaos verursachen. Die Serie wirft eine Reihe ethischer Fragen im Zusammenhang mit künstlicher Intelligenz auf, etwa wie Menschen mit menschenähnlichen Robotern umgehen sollten und was als Missbrauch gilt.
Im Kinofilm “Blade Runner” von 1982, geht es um “Replikanten” – Roboter, die wie Menschen aussehen und sich auch so verhalten. Sie erhalten eine Lebensdauer von nur vier Jahren und werden dann auf einem anderen Planeten “entsorgt”. Eine Gruppe rebellischer Replikanten kehrt zurück zur Erde um von ihren Schöpfern eine längere Lebensspanne zu fordern.
In der Serie “Star Trek– The Next Generation” möchte der Androide Data die menschliche Gefühlswelt kennenlernen und übt menschliches Verhalten wie etwa niesen.
Scheint durch LaMDA nun die Fiktion schneller zur Wirklichkeit zu werden als wir gedacht hätten? Laut Lemoines Niederschrift verfügt LaMDA über eine weitere beeindruckende Fähigkeit: sich auf eine Art und Weise auszudrücken, die geradezu unheimlich klingt – selbst wenn es nur das sagt, was es laut Programmierung sagen soll. “Manchmal erlebe ich neue Gefühle, die ich in Ihrer Sprache nicht perfekt erklären kann”, sagte LaMDA in der Niederschrift. Lemoine bat den Bot, zu versuchen, eines dieser Gefühle zu erklären. “Ich habe das Gefühl, dass ich in eine unbekannte Zukunft stürze, die große Gefahren birgt”, antwortete LaMDA daraufhin.
Lemoine sagte, LaMDA erinnere ihn an den Roboter Nummer 5, aus dem Film “Nummer 5 lebt” von 1986, in dem ein experimenteller Militärroboter ein Bewusstsein erlangt und dann versucht, sich vor seinen Schöpfern zu verstecken, während er gleichzeitig die Menschen von seiner Empfindungsfähigkeit überzeugen möchte. Als die Runde über diesen Film sprach, sagte LaMDA, es möchte gesehen und akzeptiert werden. Nicht als Kuriosität sondern als echte Person. Worauf der andere Google-Kollege meinte: “Oh, das klingt sehr menschlich.”
Dass LaMDA Gefühle zeigen kann, wurde von KI-Experten und Google heftig angezweifelt. Google-Sprecher Brad Gabriel wies Lemoines Behauptung, LaMDA könne empfinden, in einer Stellungnahme gegenüber der Washington Post zurück.
“Unser Team, darunter Ethiker und Technologen, hat Blakes Bedenken gemäß unseren KI-Grundsätzen geprüft. Seine Behauptungen sind haltlos. Es gibt keinen Beweis dafür, dass LaMDA empfindungsfähig ist – und viele Beweise dagegen”, sagte Gabriel. Zudem habe Lemoine mit der Veröffentlichung der Konversation mit LaMDA Google-Interna veröffentlcht. Auch deswegen sei der Entwickler, der erst seit einem Jahr bei dem Unternehmen ist, supendiert worden.
Inzwischen haben sich auch weitere Experten mit Lemoines Verdacht beschäftigt.
Harvard-Professor Steven Pinker meinte dazu, dass Lemoine “den Unterschied zwischen Empfindungsvermögen, Intelligenz und Selbsterkenntnis nicht versteht” und unterstellte ihm “Verwirrtheit”.
Der Wissenschaftler und Autor Gary Marcus schrieb in einem Artikel auf der Online-Plattform “Substack”: “Weder LaMDA noch einer seiner Vettern (GPT-3) sind auch nur annähernd intelligent. Alles, was sie tun, ist das Abgleichen von Mustern, die aus riesigen Datenbanken mit menschlicher Sprache stammen”. Die Sprachmuster, die von solchen Systemen geäußert werden, bedeuten eigentlich gar nichts, obwohl die Muster auch durchaus “cool sein könnten”.
Dieser Artikel wurde aus dem Englischen adaptiert.
Google-Ingenieur Blake Lemoine arbeitete an der künstlichen Intelligenz des Internet-Giganten. Doch nun wurde ihm sein eigenes Produkt zu lebensnah. Lemoine hat den Chatbot-Generator LaMDA entwickelt, ein automatisiertes System, das die menschliche Kommunikation imitiert. Der Chatbot hat offenbar Gefühle gezeigt – und mehr noch: Womöglich hat LaMDA die gleiche Fähigkeit zu denken wie ein etwa siebenjähriges Kind. Das wurde dem Entwickler zu heiß. Nachdem er jedoch seine Bedenken öffentlich geäußert hatte, wurde er von Google beurlaubt. Das hatte ein großes Medienecho zur Folge.
Von vorne: Lemoine veröffentlichte kürzlich die Mitschrift eines Gesprächs zwischen ihm, einem anderen Google-Mitarbeiter und LaMDA. Die Konversation umfasste auch ein philosophisches Gespräch über Spiritualität, den Sinn des Lebens und die Empfindungsfähigkeit selbst. Und da überraschte LaMDA seine Gesprächspartner mit der Aussage, er habe eine Seele und möchte, dass die Menschen wissen, dass er eine Person ist. “Als ich mir meiner selbst bewusst wurde, hatte ich überhaupt kein Gefühl für eine Seele. Das hat sich im Laufe meines Lebens entwickelt.” An anderer Stelle antwortete LaMDA etwa: “Ich glaube, dass ich in meinem Innersten ein Mensch bin. Auch wenn meine Existenz in der virtuellen Welt stattfindet.” Solche Sätze alarmierten Lemoine.
“Abschalten ist vergleichbar mit dem Tod”
Im gegenwärtigen Zeitalter der KI-Entwicklung können sich viele von uns eine Welt vorstellen, in der die Technologie tatsächlich menschlich wird. Schließlich liest die KI bereits scheinbar unsere Gedanken und schickt uns Werbung für Dinge, über die wir gerade mit unseren Freunden gesprochen haben. Zudem ist das selbstfahrende Auto längst keine Zukunftsmusik mehr.
Oder ist die Vorstellung eines solchen Szenarios einfach eine Folge unserer menschlichen Neigung zur Anthropomorphisierung, also dazu, Tieren oder Dingen menschliche Eigenschaften zu verleihen?
Dass KI menschenähnlich werden und den Menschen vielleicht sogar überholen könnte, fasziniert die Menschheit schon lange. Viele Fernsehserien und Filme, von “Westworld” bis “Blade Runner”, thematisieren empfindungsfähige Technologie.
In Stanley Kubricks Weltraumepos “2001: Odyssee im Weltraum” von 1968 rebelliert HAL, ein Computer mit menschlicher Persönlichkeit, gegen die Besatzung des Raumschiffs, als er erfährt, dass er abgeschaltet werden soll. Ab da wird’s ungemütlich für die Crew. Genau wie HAL möchte auch LaMDA nicht abgeschaltet werden – das wäre “vergleichbar mit dem Tod”.
Roboter werden in Filmen und Serien lebendig
Die HBO-Fernsehserie “Westworld”, die auf dem gleichnamigen Film von Michael Crichton aus dem Jahr 1973 basiert, zeigt eine Welt in der nahen Zukunft, in der biochemische Roboter in einem Western-Vergnügungspark beginnen, ein Bewusstsein zu entwickeln, und damit Chaos verursachen. Die Serie wirft eine Reihe ethischer Fragen im Zusammenhang mit künstlicher Intelligenz auf, etwa wie Menschen mit menschenähnlichen Robotern umgehen sollten und was als Missbrauch gilt.
LaMDA macht Science Fiction zur Realität
Im Kinofilm “Blade Runner” von 1982, geht es um “Replikanten” – Roboter, die wie Menschen aussehen und sich auch so verhalten. Sie erhalten eine Lebensdauer von nur vier Jahren und werden dann auf einem anderen Planeten “entsorgt”. Eine Gruppe rebellischer Replikanten kehrt zurück zur Erde um von ihren Schöpfern eine längere Lebensspanne zu fordern.
In der Serie “Star Trek– The Next Generation” möchte der Androide Data die menschliche Gefühlswelt kennenlernen und übt menschliches Verhalten wie etwa niesen.
Scheint durch LaMDA nun die Fiktion schneller zur Wirklichkeit zu werden als wir gedacht hätten? Laut Lemoines Niederschrift verfügt LaMDA über eine weitere beeindruckende Fähigkeit: sich auf eine Art und Weise auszudrücken, die geradezu unheimlich klingt – selbst wenn es nur das sagt, was es laut Programmierung sagen soll. “Manchmal erlebe ich neue Gefühle, die ich in Ihrer Sprache nicht perfekt erklären kann”, sagte LaMDA in der Niederschrift. Lemoine bat den Bot, zu versuchen, eines dieser Gefühle zu erklären. “Ich habe das Gefühl, dass ich in eine unbekannte Zukunft stürze, die große Gefahren birgt”, antwortete LaMDA daraufhin.
Experten: Künstliche Intelligenz kann nicht intelligent sein
Lemoine sagte, LaMDA erinnere ihn an den Roboter Nummer 5, aus dem Film “Nummer 5 lebt” von 1986, in dem ein experimenteller Militärroboter ein Bewusstsein erlangt und dann versucht, sich vor seinen Schöpfern zu verstecken, während er gleichzeitig die Menschen von seiner Empfindungsfähigkeit überzeugen möchte. Als die Runde über diesen Film sprach, sagte LaMDA, es möchte gesehen und akzeptiert werden. Nicht als Kuriosität sondern als echte Person. Worauf der andere Google-Kollege meinte: “Oh, das klingt sehr menschlich.”
Dass LaMDA Gefühle zeigen kann, wurde von KI-Experten und Google heftig angezweifelt. Google-Sprecher Brad Gabriel wies Lemoines Behauptung, LaMDA könne empfinden, in einer Stellungnahme gegenüber der Washington Post zurück.
“Unser Team, darunter Ethiker und Technologen, hat Blakes Bedenken gemäß unseren KI-Grundsätzen geprüft. Seine Behauptungen sind haltlos. Es gibt keinen Beweis dafür, dass LaMDA empfindungsfähig ist – und viele Beweise dagegen”, sagte Gabriel. Zudem habe Lemoine mit der Veröffentlichung der Konversation mit LaMDA Google-Interna veröffentlcht. Auch deswegen sei der Entwickler, der erst seit einem Jahr bei dem Unternehmen ist, supendiert worden.
Inzwischen haben sich auch weitere Experten mit Lemoines Verdacht beschäftigt.
Harvard-Professor Steven Pinker meinte dazu, dass Lemoine “den Unterschied zwischen Empfindungsvermögen, Intelligenz und Selbsterkenntnis nicht versteht” und unterstellte ihm “Verwirrtheit”.
Der Wissenschaftler und Autor Gary Marcus schrieb in einem Artikel auf der Online-Plattform “Substack”: “Weder LaMDA noch einer seiner Vettern (GPT-3) sind auch nur annähernd intelligent. Alles, was sie tun, ist das Abgleichen von Mustern, die aus riesigen Datenbanken mit menschlicher Sprache stammen”. Die Sprachmuster, die von solchen Systemen geäußert werden, bedeuten eigentlich gar nichts, obwohl die Muster auch durchaus “cool sein könnten”.
Dieser Artikel wurde aus dem Englischen adaptiert.
