Zunächst müssten Sicherheitsstandards geschaffen werden, damit die Entwicklung von KI öffentlich nachprüfbar wird, fordern der Milliardär Elon Musk und andere.
Technologie-Milliardär Elon Musk und zahlreiche weitere Experten aus der KI-Branche haben eine sechsmonatige Pause bei der Entwicklung Künstlicher Intelligenz gefordert. Die Zeit solle genutzt werden, um ein Regelwerk für diese Technologie zu schaffen, heißt es in einem offenen Brief der gemeinnützigen Organisation Future of Life. “KI-Systeme mit einer Intelligenz, die Menschen Konkurrenz macht, können große Risiken für Gesellschaft und Menschheit bergen.”
Daher sollten leistungsstarke KI-Systeme erst dann entwickelt werden, “wenn man sicher sein könne, dass ihre Auswirkungen positiv und ihre Risiken überschaubar sind”. Die sechs Monate sollen demnach genutzt werden, um Sicherheitsprotokolle zu entwickeln.
Technologie-Milliardär Elon Musk und zahlreiche weitere Experten aus der KI-Branche haben eine sechsmonatige Pause bei der Entwicklung Künstlicher Intelligenz gefordert. Die Zeit solle genutzt werden, um ein Regelwerk für diese Technologie zu schaffen, heißt es in einem offenen Brief der gemeinnützigen Organisation Future of Life. “KI-Systeme mit einer Intelligenz, die Menschen Konkurrenz macht, können große Risiken für Gesellschaft und Menschheit bergen.”
Neben dem Tesla-Chef Musk unterzeichneten mehr als 1000 Personen dieses Manifest, darunter Emad Mostaque, Chef der KI-Firma Stability AI und mehrere Entwickler von Googles KI-Tochter DeepMind. Auch Apple-Mitbegründer Steve Wozniak gehört zu den Unterstützern.
Sie weisen auf die Gefahren sogenannter Generativer KI wie dem Text-Roboter ChatGPT oder dem Bild-Generator DALL-E der Firma OpenAI hin. Diese Programme können menschliche Interaktion simulieren und anhand weniger Stichworte Texte oder Bilder erstellen. Diese Technik sei inzwischen so weit fortgeschritten, dass selbst die Entwickler ihre Programme nicht mehr verstehen oder wirksam kontrollieren könnten, hieß es.
Dadurch könnten Informationskanäle mit Propaganda und Unwahrheiten geflutet und auch Jobs wegrationalisiert werden. Aus diesem Grund sollten alle Entwickler, die an KI der nächsten Generation arbeiten, ihre Arbeit öffentlich nachprüfbar einstellen. Sollten die Unternehmen sich nicht darauf einigen, müssten Regierungen einschreiten und ein Moratorium auferlegen.
Die rasante Entwicklung von künstlicher Intelligenz wird in vielen Bereichen – etwa in der Medizin – als große Chance gesehen, hat aber auch zahlreiche Kritiker auf den Plan gerufen. Vor einigen Tagen hatte Europol vor dem Missbrauch dieser Technologie durch Kriminelle gewarnt. “Die Fähigkeit von ChatGPT, sehr realistische Texte zu verfassen, macht es zu einem nützlichen Werkzeug für Phishing.”
Mit dieser Methode sollen Internet-Nutzer dazu gebracht werden, ihre Zugangsdaten für Bankkonten oder Ähnliches preiszugeben. Darüber hinaus könnten sich Kriminelle ohne Programmier-Kenntnisse von einer KI Schad-Software schreiben lassen.
In Deutschland begrüßte der TÜV-Verband den offenen Brief. “Der Appell zeigt den politischen Handlungsbedarf für eine klare gesetzliche Regulierung Künstlicher Intelligenz”, erklärte Joachim Bühler, Geschäftsführer des TÜV-Verbands. Nur so könne man die Risiken besonders leistungsfähiger KI-Systeme in den Griff bekommen.
Musk selbst war einer der frühen Investoren bei OpenAI, an der inzwischen Microsoft maßgeblich beteiligt ist. Er hatte sich aber vor Jahren wegen möglicher Interessenskonflikte zurückgezogen. Denn der von ihm geführte Elektroautobauer Tesla entwickelt KI-Systeme für autonomes Fahren.
uh/fab (afp, dpa, rtr)
Technologie-Milliardär Elon Musk und zahlreiche weitere Experten aus der KI-Branche haben eine sechsmonatige Pause bei der Entwicklung Künstlicher Intelligenz gefordert. Die Zeit solle genutzt werden, um ein Regelwerk für diese Technologie zu schaffen, heißt es in einem offenen Brief der gemeinnützigen Organisation Future of Life. “KI-Systeme mit einer Intelligenz, die Menschen Konkurrenz macht, können große Risiken für Gesellschaft und Menschheit bergen.”
Daher sollten leistungsstarke KI-Systeme erst dann entwickelt werden, “wenn man sicher sein könne, dass ihre Auswirkungen positiv und ihre Risiken überschaubar sind”. Die sechs Monate sollen demnach genutzt werden, um Sicherheitsprotokolle zu entwickeln.
Neben dem Tesla-Chef Musk unterzeichneten mehr als 1000 Personen dieses Manifest, darunter Emad Mostaque, Chef der KI-Firma Stability AI und mehrere Entwickler von Googles KI-Tochter DeepMind. Auch Apple-Mitbegründer Steve Wozniak gehört zu den Unterstützern.
Sie weisen auf die Gefahren sogenannter Generativer KI wie dem Text-Roboter ChatGPT oder dem Bild-Generator DALL-E der Firma OpenAI hin. Diese Programme können menschliche Interaktion simulieren und anhand weniger Stichworte Texte oder Bilder erstellen. Diese Technik sei inzwischen so weit fortgeschritten, dass selbst die Entwickler ihre Programme nicht mehr verstehen oder wirksam kontrollieren könnten, hieß es.
Dadurch könnten Informationskanäle mit Propaganda und Unwahrheiten geflutet und auch Jobs wegrationalisiert werden. Aus diesem Grund sollten alle Entwickler, die an KI der nächsten Generation arbeiten, ihre Arbeit öffentlich nachprüfbar einstellen. Sollten die Unternehmen sich nicht darauf einigen, müssten Regierungen einschreiten und ein Moratorium auferlegen.
Die rasante Entwicklung von künstlicher Intelligenz wird in vielen Bereichen – etwa in der Medizin – als große Chance gesehen, hat aber auch zahlreiche Kritiker auf den Plan gerufen. Vor einigen Tagen hatte Europol vor dem Missbrauch dieser Technologie durch Kriminelle gewarnt. “Die Fähigkeit von ChatGPT, sehr realistische Texte zu verfassen, macht es zu einem nützlichen Werkzeug für Phishing.”
Mit dieser Methode sollen Internet-Nutzer dazu gebracht werden, ihre Zugangsdaten für Bankkonten oder Ähnliches preiszugeben. Darüber hinaus könnten sich Kriminelle ohne Programmier-Kenntnisse von einer KI Schad-Software schreiben lassen.
In Deutschland begrüßte der TÜV-Verband den offenen Brief. “Der Appell zeigt den politischen Handlungsbedarf für eine klare gesetzliche Regulierung Künstlicher Intelligenz”, erklärte Joachim Bühler, Geschäftsführer des TÜV-Verbands. Nur so könne man die Risiken besonders leistungsfähiger KI-Systeme in den Griff bekommen.
Musk selbst war einer der frühen Investoren bei OpenAI, an der inzwischen Microsoft maßgeblich beteiligt ist. Er hatte sich aber vor Jahren wegen möglicher Interessenskonflikte zurückgezogen. Denn der von ihm geführte Elektroautobauer Tesla entwickelt KI-Systeme für autonomes Fahren.
uh/fab (afp, dpa, rtr)
