Training von leistungsstarken KI-Systemen aussetzen
Unkalkulierbare Risiken!
Ich nutze die Künstliche Intelligenz von Chat GPT, aber genau deshalb habe ich den Aufruf des „Future of Life Institute“ unterzeichnet. Es ist einfach schockierend, mit welchem atemberaubenden Tempo alle Fähigkeiten beschleunigt werden. Da verbergen sich natürlich auch große Chancen, aber vorher Nachdenken wäre nicht schlecht.
„Wir können den Wind
nicht ändern, aber die
Segel anders setzen“
– Aristoteles –
Die Forderung: das Training von leistungsstarken KI-Systemen aussetzen!
Wir befürchten eine neue Bedrohung für die Menschheit.
Elon Musk und eine Gruppe von Experten für künstliche Intelligenz fordern darin eine sechsmonatige Pause für das Training von Systemen, die leistungsfähiger sind als das Modell GPT-4 von OpenAI. Dies fordern sie in einem offenen Brief und weisen auf potenzielle Risiken für die Gesellschaft und die Menschheit hin. Apple-Mitbegründer Steve Wozniak und einige Forscher von DeepMind haben ebenfalls unterzeichnet.
„Der Erfolg bei der Schaffung einer effektiven künstlichen Intelligenz könnte das größte Ereignis in der Geschichte unserer Zivilisation sein. Oder das schlimmste. Wir können also nicht wissen, ob uns die KI unendlich helfen wird, oder ob sie uns ignoriert und ins Abseits drängt, oder ob sie uns womöglich zerstört.“
– Stephen Hawking
In dem von den Persönlichkeiten unterzeichneten Schreiben des Future of Life Institute wird gefordert, die Entwicklung auf diesem Niveau vorübergehend zu stoppen, und es wird vor den Risiken gewarnt, die künftige, fortschrittlichere Systeme mit sich bringen könnten. „KI-Systeme mit einer dem Menschen ebenbürtigen Intelligenz können tiefgreifende Risiken für die Gesellschaft und die Menschheit darstellen“, heißt es darin.
Die EU-Polizeibehörde Europol hatte bereits am Montag vor dem möglichen Missbrauch des Chat-GPT-Bots für Phishing-Versuche, Desinformation und Cyberkriminalität gewarnt.
Seit seiner Veröffentlichung Ende 2022 hat der von Microsoft unterstützte Chatbot ChatGPT von OpenAI einen Hype sowie einen Ansturm von Nutzern ausgelöst. Konkurrenten wie Baidu sahen sich dazu veranlasst, ähnliche Sprachmodelle zu entwickeln, um generative KI Modelle in ihre Produkte zu integrieren. Sam Altman, Geschäftsführer von OpenAI, hat den Brief nicht unterzeichnet.
„Der Brief ist nicht perfekt, aber der Geist ist richtig: Wir müssen die Auswirkungen von KI besser verstehen“, sagte Gary Marcus, ein emeritierter Professor der New York University, der den Brief unterzeichnet hat.
KI: Großartige Versprechen versus große Gefahr
Auf die Frage danach, wie er die KI-Entwicklung in den kommenden zehn Jahren bewerte, sagte Elan Musk, dass das Thema sowohl positive als auch negative Seiten habe. Auf der einen Seite stünden „großartige Versprechen und Fähigkeiten“. Damit einhergehe aber eine „große Gefahr“.
Musk zufolge müsse die KI-Sicherheit reguliert werden. KI sei jedenfalls „ein größeres Risiko für die Gesellschaft als Autos, Flugzeuge oder Medikamente“, so der Tech-Multimilliardär, der normalerweise wenig von Regulierung hält.
Das Future of Life Institute ist eine gemeinnützige Organisation, die es sich zur Aufgabe gemacht hat, „transformative Technologien weg von extremen, weitreichenden Risiken und hin zum Nutzen des Lebens zu lenken“.
ChatGPT und Wolfram Alpha
Man stelle sich eine Plattform vor, die in der Lage ist, menschenähnliche Antworten wie ChatGPT zu erzeugen, aber gleichzeitig Zugang zur „rechnerischen Superkraft“ von Wolfram Alpha hat, um präzise Berechnungen jenseits menschlicher Fähigkeiten durchzuführen.
ChatGPT ist seit einiger Zeit in aller Munde, dank seiner Fähigkeit, scheinbar korrekte Antworten zu generieren – von Essays über Jobinterview-Simulationen bis hin zu Blog-Inhalten. Doch je mehr wir es nutzen, desto mehr sehen wir seine Grenzen. Hier kommt Wolfram Alpha ins Spiel.
Stephen Wolfram, der Gründer und Chef von Wolfram Alpha, betont, dass nicht jede „nützliche“ Aufgabe tatsächlich „menschlich“ ist. Tatsächlich wurden Computer ursprünglich gebaut, um Berechnungen durchzuführen, die jenseits der menschlichen Möglichkeiten liegen. Und genau hier glänzt Wolfram Alpha.
Wolfram Alpha ist anders konzipiert als ChatGPT, aber beide teilen eine gemeinsame Schnittstelle: natürliche Sprache. Dies bietet unvorstellbare Möglichkeiten, beide Modelle zu verbinden, um den ultimativen KI-Assistenten zu erschaffen. Genau das geschieht gerade. Dieses System wird in der Lage sein, nahtlos zwischen menschenähnlicher Textgenerierung und übermenschlichen Rechenaufgaben zu wechseln – und das alles mit nur einem einfachen Befehl in natürlicher Sprache.
Am 24. Januar 2023 wurde die Weltuntergangsuhr um 10 Sekunden auf 90 Sekunden vor Mitternacht vorgestellt. Begründet wurde das Vorrücken der Zeiger damit, dass „die russische Invasion in der Ukraine das Risiko des Einsatzes von Atomwaffen erhöht, das Gespenst des Einsatzes biologischer und chemischer Waffen heraufbeschworen, die Reaktion der Welt auf den Klimawandel lahmgelegt und internationale Bemühungen behindert hat, andere globale Probleme anzugehen“. Erneut wurde ein neuer Spitzenwert aufgestellt.