Die Weiterentwicklung der künstlichen Intelligenz könnte zum Ende der menschlichen Existenz, wie wir sie kennen, führen, heißt es in einem äußerst kurzen offenen Brief, der gestern (30. Mai) veröffentlicht und von großen Technologiemanagern, KI-Wissenschaftlern, Akademikern und, etwas unpassend, dem Musiker Grimes unterzeichnet wurde .
„Die Risiken des Aussterbens durch KI verringern.“ sollte neben anderen gesellschaftlichen Risiken wie Pandemien und Atomkrieg eine globale Priorität sein“, heißt es in dem Kurzbericht Stellungnahme liest. Es wurde vom Center for A.I. veröffentlicht. Safety (CAIS), eine gemeinnützige Organisation, die sich auf den Schutz des Einsatzes der Technologie konzentriert.
Die kurze Warnung, die keine kontextbezogenen Informationen zu ihrer schwerwiegenden Vermutung enthielt, folgt auf zwei kürzlich veröffentlichte offene Briefe, in denen auf mögliche Gefahren durch KI hingewiesen wurde. Forschung und Umsetzung.
Im März nahmen mehr als 1.000 Branchenexperten teil, darunter Elon Musk und Apple-Mitbegründer Steve Wozniak einen Brief unterschrieben fordert eine sechsmonatige Pause bei der KI. Entwicklung, um die Risiken zu untersuchen und Sicherheitsprotokolle zu entwickeln. Der folgende Monat, ein weiterer Brief wurde veröffentlicht von Mitgliedern der Association for the Advancement of Artificial Intelligence, darunter Microsoft Eric Horvitz, wissenschaftlicher Leiter der Studie, warnt vor der Fähigkeit von KI, schlechte Akteure zu stärken.
Die Dringlichkeit der beiden vorherigen Botschaften verblasst im Vergleich zu der prägnanten Stellungnahme des CAIS, in der behauptet wird, ihr Ziel bestehe darin, „ein allgemeines Wissen über die wachsende Zahl von Experten und Persönlichkeiten des öffentlichen Lebens zu schaffen, die auch einige der schwerwiegendsten Risiken fortgeschrittener KI ernst nehmen.“ ”
Zu den unerwarteten Unterstützern des Briefes gehören neben Grimes auch der Podcaster Sam Harris, TED-Chef Chris Anderson und Kersti Kaljulaid, die ehemalige Präsidentin der Republik Estland. Die herausragendsten Unterzeichner sind jedoch nicht diejenigen, die fehl am Platz zu sein scheinen, sondern diejenigen, die ihre Karriere auf der Grundlage der Technologie aufgebaut haben, vor der sie jetzt warnen, dass sie zum Aussterben führen könnte.
Sam Altman, CEO von OpenAI
Sam Altman, Leiter des ChatGPT-Herstellers OpenAI , unterzeichnete den Brief zusammen mit den Mitbegründern Ilya Sutskever, John Schulman und drei weiteren Führungskräften von OpenAI.
2015 erstmals als gemeinnützige Organisation mit dem Ziel gegründet, KI zu entwickeln. Auf sichere Weise wechselte das Unternehmen zu einem Hybrid „Capped-Profit“-Modell im Jahr 2019. Im November wurde A.I. veröffentlicht. Chatbot ChatGPT, der sich schnell viral verbreitete und Bedenken hinsichtlich seines Potenzials aufkommen ließ Schulaufgaben schreiben Und die Belegschaft ersetzen.
Die Marktbewertung von OpenAI war zwischen 27 und 29 Milliarden US-Dollar Stand April.
Trotz seiner Unterstützung für die dringende Warnung des Briefes hat Altman zuvor den Aufstieg immer ausgefeilterer KI gelobt. Systeme. „Diese Revolution wird phänomenalen Reichtum schaffen“, sagte er in einem Blogbeitrag 2021 . „Der Preis vieler Arten von Arbeit (der die Kosten für Waren und Dienstleistungen in die Höhe treibt) wird gegen Null sinken, sobald ausreichend leistungsfähige KI „in die Arbeitswelt einsteigt“.“
Geoffrey Hinton, A.I. Pionier
Zwei Mitglieder eines Trios von Informatikern, die als „Paten der KI“ bekannt sind. haben dem jüngsten Brief ebenfalls ihre Unterstützung zugesagt.
Die Unterzeichner Geoffrey Hinton und Yoshua Bengio haben in der A.I. gearbeitet. Seit Jahrzehnten ist er auf diesem Gebiet tätig und hat zusammen mit Yann LeCun dazu beigetragen, den Grundstein für die Entwicklung der Technologie zu legen. Die drei wurden 2018 mit dem Turing Award ausgezeichnet.
Hinton und Bengio, derzeit Professoren an der University of Toronto bzw. der Universite de Montreal, haben beide Bedenken hinsichtlich der Fortschritte der KI geäußert.
Anfang dieses Monats sagte Hinton dem New York Times Er hat seinen Job gekündigt Google über die Risiken von K.I. zu sprechen ., und fügte hinzu, dass er jetzt sein Lebenswerk bereue. „Es ist schwer vorstellbar, wie man die schlechten Akteure davon abhalten kann, es für schlechte Dinge zu nutzen“, sagte er.
Bengio äußerte ähnliche Gefühle Zu BBC Heute (31. Mai) hat ihn die Enthüllung der Bedrohung durch KI dazu gebracht, seine jahrelange Forschung in Frage zu stellen. „Man könnte sagen, ich fühle mich verloren“, sagte er.
In der Zwischenzeit hat LeCun, Chef-A.I. Wissenschaftler bei Meta, entschied sich, den Brief nicht zu unterschreiben.
Demis Hassabis, CEO von Google DeepMind
Mehrere Google-Mitarbeiter, darunter mehr als zehn, arbeiten für die maschinelle Lern-KI. Das Startup DeepMind ist Unterzeichner der Erklärung. Auf der Liste steht Demis Hassabis, CEO und Mitbegründer von DeepMind, der früher als KI-Experte tätig war. Programmierer für Videospiele bei Lionhead und Elixir.
DeepMind wurde 2014 von Google für rund 500 Millionen US-Dollar gekauft. Hassabis hat das Unternehmen aufgefordert, mit Vorsicht vorzugehen, und behauptet, dass künstliche allgemeine Intelligenz (A.G.I.), ein Begriff, der sich auf Computer bezieht, deren kognitive Fähigkeiten mit denen von Menschen vergleichbar sind, könnte innerhalb des nächsten Jahrzehnts entstehen .
„Ich würde mich dafür einsetzen nicht sich schnell bewegen und Dinge kaputt machen“, Hassabis erzählte Zeit im Januar und fügte hinzu, dass er glaubt, dass die Gewinne von A.G.I. sollten gleichmäßig umverteilt werden.
Allerdings hat die Sparte von Hassabis in den letzten Monaten Fahrt aufgenommen. Google DeepMind wurde im April gegründet, nachdem Google die KI-fokussierten Abteilungen DeepMind und Brain zu „ Beschleunigen Sie den Fortschritt hin zu einer Welt, in der KI zur Lösung der größten Herausforderungen der Menschheit beitragen kann .“ Und Anfang dieses Jahres Google im Rahmen seiner Q4-Ergebnisse 2022 bekannt gegeben dass die Finanzinformationen von DeepMind nun unter den Unternehmenskosten von Alphabet ausgewiesen werden, da sie vom Unternehmen zunehmend genutzt werden.
Grimes, Musiker und Produzent
Grimes, die vielseitige Musikerin und ehemalige romantische Partnerin von OpenAI-Mitbegründer Musk, hat im Laufe ihrer Karriere mit der Technologie experimentiert und sie insbesondere für die Erstellung eines Musikvideos genutzt K.I. Schlaflied für ihren Sohn und ein K.I. Chatbot trainierte ihre eigenen Manierismen.
„Ich denke, dass K.I. ist großartig“, sagte sie dem New York Times. „Ich habe einfach das Gefühl, kreativ gesehen denke ich, dass K.I. kann den Menschen ersetzen.“
Die neueste K.I. Projekt von Grimes, der mit bürgerlichem Namen Claire Boucher heißt, wurde diesen Monat in Form von Elf.Tech veröffentlicht, einem K.I. Softwareprogramm, das es Fans ermöglicht, ihren Gesang zu duplizieren eigene Lieder zu kreieren. „Mir gefällt die Idee, die gesamte Kunst als Open-Source-Lösung anzubieten und das Urheberrecht abzuschaffen.“ twitterte der Künstler, der eine Lizenzbeteiligung von 50 Prozent für erfolgreiche Songs anbietet, die von der KI stammen. Programm.
Dario Amodei, CEO von Anthropic
Anthropisch Dario Amodei von Dario Amodei unterstützte die Aussage zusammen mit den Mitbegründern Jared Kaplan und Chris Olah. Auch seine Schwester Daniela Amodei, Präsidentin von Anthropic, unterzeichnete den Brief.
Amodei arbeitete zuvor bei Google, Baidu und OpenAI, bevor er das letztere Unternehmen im Jahr 2020 verließ, um sein eigenes A.I.-Unternehmen zu leiten. Start-up, der im März einen Wert von 4,1 Milliarden US-Dollar hatte .
Auch das von Google unterstützte Startup hat in einer Finanzierungsrunde 450 Millionen US-Dollar eingesammelt in diesem Monat die größte K.I. Finanzierungsrunde im Jahr 2023 seit Microsofts OpenAI-Investition Anfang dieses Jahres.
Das Hauptprodukt von Anthropic ist Claude, ein Chatbot, mit dem das Unternehmen im Januar mit dem Testen mit einer ausgewählten Gruppe von Benutzern begann. Claude wurde anhand einer Reihe moralischer Richtlinien geschult um beleidigende Reaktionen der KI zu vermeiden. Chat-Tool, das sich an der UN-Erklärung der Menschenrechte und den Datenschutzbestimmungen von Apple orientiert. Der Prozess des Startups zur Schaffung einer „harmlosen KI“ Assistent“ wurde in a angelegt Dezember-Whitepaper .
Anfang dieses Monats wurde zusammen mit anderen K.I. CEOs wie Altman, Amodei traf sich mit Präsident Biden um zu diskutieren, wie Vorschriften in der KI umgesetzt werden können. Industrie, ihr Risiko zu mindern.
Kevin Scott, CTO bei Microsoft
Führungskräfte von A.I. Das Kraftpaket Microsoft unterzeichnete den Brief ebenfalls, darunter auch Kevin Scott, Chief Technology Officer des Unternehmens.
Microsoft ist Investor in OpenAI – eine Partnerschaft, die im Januar im Rahmen eines milliardenschweren Deals verlängert wurde. Es betreibt seine Suchmaschine Bing mit ChatGPT.
Scott, der sagte, dass 2023 „t as aufregendste Jahr, das die K.I. Gemeinschaft hatte jemals, ” behauptet, Microsoft verbessere seine verantwortungsvolle KI. Prozesse, die darauf abzielen, den Schaden der Technologie zu mindern.
Aber trotz der Unterzeichnung einer Erklärung, in der argumentiert wird, dass K.I. hat das Potenzial, die menschliche Zivilisation zu zerstören, schrieb Scott für das Buch aus dem Jahr 2020 Den amerikanischen Traum neu programmieren , die argumentiert, dass K.I. kann das Unternehmertum in ländlichen Städten revolutionieren. Auch Microsoft hat sich stark auf die KI konzentriert. in den letzten Monaten behauptet Der Vorstoß wird zu höheren Gewinnen führen für das Unternehmen im Laufe der Zeit.
wie alt ist reverend billy graham
Was wird ein weiterer offener Brief bewirken?
Die Tatsache, dass so viele Unterzeichner finanzielle Verbindungen zu A.I. haben Forschungs- und Entwicklungsunternehmen haben einige zu der Frage veranlasst, ob die jüngsten Aufrufe zur Vorsicht ein PR-Gag oder vielleicht eine Möglichkeit sind, sich in einer zunehmend überfüllten Branche einen Wettbewerbsvorteil zu verschaffen.
Anfang dieses Monats wurde der CTO von Microsoft dazu befragt das Gleichgewicht zwischen großer K.I. Unternehmen suchen nach Vorschriften, die sie nur begünstigen und eine Regulierungslandschaft, die aus kleineren, wettbewerbsfähigen Start-ups besteht. „Ich denke, wir sollten beides haben“, sagte Scott Rand . „Ich glaube nicht, dass es eine A-priori-Sache gibt, bei der das eine das andere ausschließt.“
Altman hat auch mehr Regulierung im Bereich der KI gefordert. Industrie und äußerte Bedenken, dass die Technologie von autoritären Regimen missbraucht oder für Cyberangriffe genutzt werden könnte, doch sein Wunsch nach behördlicher Aufsicht scheint selektiv zu sein, wie auch Altman zuvor behauptete, dass OpenAI die EU verlassen könnte. aufgrund der potenziellen „Überregulierung“ der KI in der Region.
Konzentration auf die beunruhigenden, aber unwahrscheinlichen Folgen von K.I. Die Umsetzung lenke die Aufmerksamkeit der Regulierungsbehörden von den tatsächlichen Risiken ab, die von künstlicher Intelligenz ausgehen, meinte Ryan Calo, Juraprofessor an der University of Washington in einer Reihe von Tweets . „Die Bewältigung der unmittelbaren Auswirkungen von KI auf Arbeit, Privatsphäre oder Umwelt ist kostspielig. Der Schutz vor KI ist irgendwie nicht „aufwachen“.
