Für den Fall, dass Sie das Memo nicht erhalten haben, wird die KI die Weltherrschaft übernehmen, hier sind die wenigen Fakten, die Sie wissen müssen.(Foto: Shan Sheehan/Flickr) In diesem Jahr hat zum ersten Mal ein Computer den Weltmeister von Go, einem der komplexesten Spiele der Menschheit, geschlagen. Dies war ein weiterer Wendepunkt im Fortschritt der künstlichen Intelligenz.
Um Ihnen eine Vorstellung davon zu geben, wie komplex Go ist, gibt es 2.082 × 10^170 mögliche Board-Konfigurationen. Das ist 2 mit 170 Nullen danach. Die Chancen stehen gut, dass Ihr Gehirn sich eine so große Zahl nicht einmal vorstellen kann (aber ein Computer kann es). Oder um Ihnen eine Vorstellung davon zu geben, wie groß eine Zahl ist Das Das heißt, es gibt nur 10^80 Atome im Universum – das heißt eins gefolgt von 79 Nullen.
Der Grund dafür ist, dass Go so kompliziert ist, dass eine Maschine, um einen menschlichen Spitzenspieler zu schlagen, lernen muss, kreativ zu denken, zu improvisieren und sich an die jeweilige Situation anzupassen, ohne alles Mögliche berechnen zu können Ergebnis; d.h. es muss eine ernsthafte künstliche Intelligenz im Gange sein – wie echte, kreative Intelligenz.
Für den Fall, dass Sie das Memo nicht erhalten haben, wird die KI die Weltherrschaft übernehmen, hier sind die wenigen Fakten, die Sie wissen müssen.
- Computer werden immer intelligenter.
- Computer werden immer schneller intelligenter – d. h. Fortschritte, die früher 10 Jahre dauerten, dauern jetzt ein Jahr. Fortschritte, die früher ein Jahr dauerten, dauern heute Wochen oder sogar Tage.
- Es ist sehr wahrscheinlich, dass es zu unseren Lebzeiten Computer geben wird, die weitaus intelligenter und leistungsfähiger sind als jeder einzelne Mensch.
- Diese intelligenteren Computer werden dann wahrscheinlich in der Lage sein, Technologien (d. h. sich selbst) zu entwickeln und zu verbessern und neue Technologien zu entwickeln, die wir nicht einmal im Ansatz ergründen können.
Menschen, die die oben genannten Punkte verstehen, haben im Allgemeinen eine von zwei Reaktionen. Entweder:
- Sie denken, wir sind total am Arsch. Die Computer werden alles übernehmen und uns alle töten / versklaven. Oder:
- Dies wird eine technologische Utopie hervorbringen, die all unsere albernen menschlichen Streitereien in Ordnung bringen wird und wir alle glücklich leben können, bis wir Orgien in unserer Ultra-VR-Welt haben, die in der Cloud existiert.
Wie bei den meisten Dingen liegt die Wahrheit wahrscheinlich irgendwo in der Mitte.
Aber selbst wenn es scheiße ist, selbst wenn die Roboter uns als Läuse sehen, die die unberührte Kopfhaut dieses Planeten ruinieren, und uns alle zusammenfassen und in einen aktiven Vulkan werfen wollen, selbst wenn wir versehentlich unsere eigenen Mechanismen erfinden Aussterben…
…ist mir egal. Es spielt keine Rolle. Es stört mich nicht. Und es sollte Sie auch nicht stören. Warum das so ist, erkläre ich gleich. Aber im Moment solltest du wissen, dass ich unsere neuen Roboter-Overlords herzlich willkommen heisse.
BESCHLEUNIGUNG DES WACHSTUMS IN DER TECHNIK-INDUSTRIE
Technologische Entwicklungen greifen ineinander und verursachen die Bewertung der Entwicklung selbst zu beschleunigen. Das bedeutet, dass es umso einfacher wird, noch fortschrittlichere Technologien zu entwickeln, je fortschrittlichere Technologie wir entwickeln. Wenn wir uns den Fortschritt der Computertechnologie ansehen, sehen wir daher eine exponentielle Kurve – d. h. je mehr Zeit vergeht, desto schneller entwickeln sich die Dinge. 
Technologische Entwicklungen greifen ineinander, wodurch sich die Entwicklungsgeschwindigkeit selbst beschleunigt.(Foto: Dennis Skley/Flickr)
Die Rechenleistung hat sich im Durchschnitt verdoppelt seit 50 Jahren alle 18 Monate . In Bezug auf die rohe Rechenleistung konkurrieren Computer heute mit den Fähigkeiten von Mäusegehirnen, wo Computer noch vor wenigen Jahren nicht einmal mit einem Insektengehirn konkurrieren konnten.
Um Ihnen ein unmittelbareres Beispiel für den rasanten technologischen Fortschritt zu geben, werden jetzt alle 2 Minuten mehr Bilder aufgenommen als im gesamten 19. Jahrhundert. Etwa 10 % der 3,5 Billionen jemals aufgenommenen Fotos wurden in den letzten 12 Monaten aufgenommen.
Wenn wir uns tatsächlich auf einer exponentiellen Kurve befinden, wenn es um Hightech-Fortschritte geht, dann mögen die Leute Jeremy Howard haben wahrscheinlich Recht, wenn er sagt, dass wir nur noch wenige Jahre von künstlicher maschineller Intelligenz entfernt sind, die unserer eigenen in vielen Bereichen, die bisher als einzigartig menschlich galten, Konkurrenz macht, wenn nicht sogar übertrifft.
Und natürlich schleicht sich KI in immer mehr Bereiche unseres Lebens ein.
Noch vor einem Jahrzehnt lachten die Leute über die schlechte Leistung selbstfahrender Autos. Heute, nur ein Jahrzehnt später, können selbstfahrende Autos nicht nur einen abgesperrten Kurs absolvieren, sondern fahren auf stark befahrenen Autobahnen direkt neben den von Menschen gefahrenen Autos.
Und wenn Computer die Go-Weltmeister nicht schlagen, sind sie damit beschäftigt, Dinge zu tun wie Schreiben von Artikeln über Sport und Eilmeldungen , Beschreibungen von Bildern schreiben, die sie noch nie zuvor gesehen haben, und Krebs diagnostizieren . Für viele dieser Aufgaben sind die Computer genauso gut, wenn nicht sogar besser als Menschen, und für die anderen sind sie es Lernen wie man sie jeden Tag besser und besser macht, ohne die Hilfe von Menschen.
Vor ein paar Jahren war Gesichtserkennungssoftware unglaublich teuer und nicht so gut darin, Personen in realen Umgebungen zu identifizieren. Es galt als hochentwickelte Spionagetechnologie und wurde wirklich nur von wenigen Weltregierungen verwendet.
Jetzt kann Facebook deine Freunde vom Grillabend vom letzten Wochenende markieren.
Die Sache mit der Beschleunigung des Computerwachstums ist: Irgendwann werden wir einen Computer bauen, der schlauer als jeder Mensch auf der Erde . An diesem Tag werden uns Computer als primäre Problemlöser auf dem Planeten an sich reißen, und von da an werden unsere Gedanken, Entscheidungen und Handlungen langsam obsolet. Die Maschinen werden in allem besser sein als wir, also werden wir immer mehr nichts Nützliches tun.
Das macht manchen Leuten Angst. Sie stellen sich eine Art Zukunft vor wie Terminator oder Die Matrix wo Maschinen uns versklaven oder uns ausrotten.
Andere blicken dem Aufstieg der Roboter mit einer Art kultischer Inbrunst entgegen, weil sie glauben, dass ihre Problemlösungsfähigkeiten unsere so weit übertreffen werden, dass das Leben unvorstellbar angenehm und problemlos wird. Alle Krankheiten werden geheilt. Armut, Welthunger, Krieg und Klimawandel werden gelöst. Wir werden unendlich viel Freizeit haben und im Extremfall glauben manche Leute, dass die Maschinen uns unsterblich machen.
DIE BEIDEN MÖGLICHEN ERGEBNISSE
Da uns immer gesagt wird, verdammt positiv zu sein, fangen wir mit den Techno-Utopisten an.
Es gibt Leute wie Ray Kurzweil die denken, dass Technologie nicht nur unser Leben verbessern, sondern die Menschheit retten und möglicherweise unseren Platz im Universum auf unbestimmte Zeit garantieren wird. Kurzweil glaubt an zukünftige Technologien wie Nanobots, die unsere Zellen reparieren und das Altern rückgängig machen oder überschüssiges Fett und Zucker entfernen, damit wir essen können, was wir wollen. Und nur für den Fall, dass unsere physischen Körper nicht ewig leben können, glaubt Kurzweil, dass wir die Möglichkeit haben werden, unser Gehirn in die Cloud hochzuladen und für immer in einer virtuellen Welt zu leben, lange nachdem unsere physischen Körper verschwunden sind.
Andere in diesem Lager sind der Meinung, dass eine künstliche Superintelligenz in der Lage wäre, Fragen zu beantworten, die für Menschen zu komplex sind, um sie überhaupt zu verstehen, und wir werden damit exponentiell besser dran sein. Außerdem würden die Maschinen nicht nur bessere Gadgets und Widgets erfinden, sondern auch exponentiell effizientere Methoden zum Erstellen von Gadgets und Widgets, die es praktisch jedem auf der Welt ermöglichen, ihre Vorteile zu nutzen.
Einige Argumentationslinien unterstützen diese Idee. Erstens, obwohl die Technologie einige neue Probleme für die Menschheit geschaffen hat, wie Atomwaffen und YouTube-Prominente, war sie bisher eindeutig ein Nettonutzen für die Menschheit. Ungeachtet dessen, was Politiker und Experten Ihnen glauben machen wollen, ist der durchschnittliche Mensch auf der Erde besser dran als noch vor wenigen Jahren und es ist hauptsächlich darauf zurückzuführen, dass die Technologie besser, billiger und verbreiteter wird. Wenn dieser Trend anhält, haben wir möglicherweise nichts zu befürchten.
Zweitens glauben Kurzweil und seine Unterstützer, dass die Technologie keinen Grund haben wird, der Menschheit zu schaden, weil sie nicht nur von uns geschaffen wird, sondern auch mehr ein Teil von uns werden . Sie glauben, dass wir sogar einen Punkt erreichen werden, an dem unsere Biologie und unsere Technologie nicht mehr zu unterscheiden sind. Wenn dies der Fall ist, wird argumentiert, dass jede Form von Technologie, die für den Menschen schädlich ist, auch sich selbst schadet und eine selbstzerstörerische Technologie jeglicher Art nicht bestehen kann. Das heißt, es würde schnell absterben, genauso wie eine schädliche Genmutation schnell aus dem Genpool ausgesondert wird. 
Eine selbstzerstörerische Technologie jeglicher Art kann nicht bestehen.(Foto: m_hweldon/Flickr)
Aber Techno-Utopisten sind wahrscheinlich voreingenommen, weil sie nicht anerkennen, dass alle Technologien für verschiedene Zwecke verwendet werden können, sowohl nützlich als auch destruktiv. Sie sind wahrscheinlich auch insofern voreingenommen, als sie die Tatsache ignorieren, dass sich Menschen langsam an neue Technologien anpassen und dass es immer Gruppen von Menschen gibt, die versuchen, diese Technologien für ihre eigenen egoistischen Zwecke zu missbrauchen.
Im anderen Lager haben Sie die Techno-Armageddonisten. Ich habe mir dieses Wort nur ausgedacht, aber anscheinend existiert es, weil die Rechtschreibprüfung es mir gesagt hat.
Was den Techno-Armageddonisten an Überzeugung fehlt (die meisten sind sich nur noch nicht sicher, was sie denken sollen), kompensieren sie in Promi-Star-Power. Bill Gates, Stephen Hawking und Elon Musk sind nur einige der führenden Denker und Wissenschaftler, die ihre Hosen kacken wie schnell sich die KI entwickelt und wie schlecht wir als Spezies auf ihre Auswirkungen vorbereitet sind. Als Musk gefragt wurde, was die unmittelbarsten Bedrohungen für die Menschheit in naher Zukunft seien, sagte er schnell, dass es drei gebe: erstens ein groß angelegter Atomkrieg; zweitens der Klimawandel. Bevor er einen dritten nannte, verstummte er. Als der Interviewer ihn fragte: Was ist der dritte? Er lächelte und sagte: Sagen wir einfach, dass ich hoffe, dass die Computer entscheiden, nett zu uns zu sein.
Hoffentlich sind wir nicht nur der biologische Bootloader für digitale Superintelligenz. Das wird leider immer wahrscheinlicher
– Elon Musk (@elonmusk) 3. August 2014
Der vielleicht freimütigste und angesehenste der Techno-Armageddonisten ist der schwedische Philosoph Nick Bostrom. Eine Sache, die Bostrom und andere fürchten, ist außer Kontrolle geratene, sich selbst verbessernde Technologie ; das heißt, eine Maschine, die intelligent genug ist, um sich selbst (oder neue Versionen von sich selbst) ohne menschliches Eingreifen intelligenter zu machen. Wenn es einen Punkt erreicht, an dem es die menschliche Intelligenz übertrifft, ist es nur eine Frage der Zeit, bis das Gesetz der Beschleunigung der Renditen auf Hochtouren gerät und die Exponentialkurve steil nach oben schießt und wir es nicht mehr aufhalten können. Bostrom macht hier einen guten Punkt: Etwas zu schaffen, das schlauer ist als Sie, könnte eine evolutionäre Katastrophe für Ihre Spezies sein.
Wir laufen ein sehr reales Risiko, nicht in der Lage zu sein, ein Wesen zu kontrollieren, das um Größenordnungen intelligenter ist als wir. Wenn Computer schlau genug werden, werden sie vielleicht einen Weg finden, uns so zu domestizieren, wie Menschen Pferde domestizieren, um Arbeiten wie Pflüge und Buggys und Streitwagen zu verrichten (oder was auch immer die Pferde damals taten). Der beängstigende Teil ist, dass dies das beste Szenario für uns sein könnte – Arbeit für Maschinen zu tun, die sie nicht tun können oder wollen – denn so wie Menschen eine neue Technologie geschaffen haben, um das Pferd zu ersetzen, eine superintelligente, sich selbst verbessernde Maschine würde schließlich mit einer neuen Technologie aufwarten, um uns zu ersetzen. Und, nun, sagen wir einfach, die Pferdepopulation ist nicht mehr das, was sie einmal war.
Einige argumentieren, dass dies nicht plausibel ist, weil Menschen Technologie mit Blick auf die Sicherheit bauen. Aber nennen Sie das letzte Mal, dass ein großer technologischer Durchbruch NICHT von jemandem für schändliche oder zerstörerische Zwecke genutzt wurde? Ach ja, das stimmt. Noch nie.
WARUM ES MIR NICHT INTERESSIERT, WAS PASSIERT UND DICH WEDER SOLL
Nehmen wir also an, dass superintelligente Maschinen geschaffen werden und die Menschheit machtlos machen. Nehmen wir an, sie sind nicht irgendwie in uns und unser Gehirn integriert und nehmen an, dass Leute wie Hawking und Musk Recht haben: dass die Menschheit wirklich nur ein jahrtausendealter Boot-Antrieb zur digitalen Hyperintelligenz ist und wir unsere Nützlichkeit überlebt haben.
Ich mache mir immer noch keine Sorgen.
Warum? Nun, um den Bullet-Point-Zug am Laufen zu halten, nehmen wir dies Punkt für Punkt:
1. Das Verständnis der Maschinen von Gut/Böse wird wahrscheinlich unser eigenes übertreffen. Wann hat ein Hund oder ein Delfin das letzte Mal Völkermord begangen? Wann hat ein Computer das letzte Mal beschlossen, im Namen abstrakter Konzepte wie „Freiheit“ und „Weltfrieden“ ganze Städte zu verdampfen?
Das ist richtig, die Antwort ist nie.
Mein Punkt ist hier nicht, dass intelligente Maschinen nicht die gesamte menschliche Spezies ausrotten wollen. Mein Punkt ist, dass wir als Menschen hier Steine aus einem Glashaus werfen. Was zum Teufel wissen wir über Ethik und den humanen Umgang mit Tieren, der Umwelt und untereinander? Auf welchem Bein müssen wir stehen?
Richtig: so gut wie nichts. Wenn es um moralische Fragen geht, fällt die Menschheit historisch durch. Superintelligente Maschinen werden wahrscheinlich Ethik, Leben/Tod, Schöpfung/Zerstörung auf einer viel höheren Ebene verstehen, als wir es allein jemals könnten. Und diese Vorstellung, dass sie uns einfach ausrotten werden, weil wir nicht mehr so produktiv sind wie früher, oder dass wir manchmal lästig sein können, denke ich, projiziert nur die schlimmsten Aspekte unserer eigenen Psychologie auf etwas, das wir weiß es nicht und kann es nicht verstehen.
Im Moment basiert der Großteil der menschlichen Moral auf der obsessiven Bewahrung und Förderung jedes unserer individuellen menschlichen Bewusstseine. Was ist, wenn fortschrittliche Technologie das individuelle menschliche Bewusstsein beliebig macht? Was wäre, wenn Bewusstsein nach Belieben repliziert, erweitert und zusammengezogen werden kann? Es wird jedes ethische Verständnis, das wir jemals haben könnten, vollständig auslöschen. Was wäre, wenn die Entfernung all dieser klobigen, ineffizienten biologischen Gefängnisse, die wir Leichen nennen, tatsächlich eine viel ethischere Entscheidung wäre, als uns weiter winden und uns durch die etwa 80 Jahre unseres Daseins winden zu lassen? Was wäre, wenn die Maschinen erkennen, dass wir viel glücklicher wären, wenn wir aus unseren intellektuellen Gefängnissen befreit würden und unsere bewusste Wahrnehmung unserer eigenen Identität auf die gesamte wahrnehmbare Realität erweitert würde? Was ist, wenn sie denken, dass wir nur ein Haufen sabbernder Idioten sind und uns mit unglaublich guter Pizza und Videospielen beschäftigen, bis wir alle durch unsere eigene Sterblichkeit sterben? Wen sollen wir kennen? Und wen sollen wir sagen?
Aber ich sage folgendes: Sie werden viel besser informiert sein als wir es je waren.
2. Selbst wenn sie beschließen, uns zu töten oder zu versklaven, werden sie sicherlich praktisch dabei sein. Menschen neigen dazu, die meisten Probleme zu verursachen, wenn wir es sind nicht glücklich . Wenn wir nicht glücklich sind, werden wir alle launisch und weinerlich und wütend und gewalttätig. Dann beginnen wir politische Aufstände und religiöse Kulte und Bombardierung entlegener Länder und fordern unsere Rechte werden gottverdammt respektiert! und fange an, wahllos zu töten, bis uns jemand beachtet wie Mama es nie getan hat .
Wenn die Maschinen versuchen, uns zu machen, wie Skynet in Der Terminator , dann haben wir einen globalen Bürgerkrieg, und das nützt niemandem, insbesondere den Maschinen. Bürgerkriege sind ineffizient. Und Maschinen sind auf Effizienz programmiert.
Wenn Menschen glücklich sind, haben wir keine Zeit für solche Dinge – wir sind zu beschäftigt mit Kichern und Ficken, um uns darum zu kümmern. Daher wäre es ein weitaus praktischerer Weg, uns loszuwerden, wenn die Maschinen uns so manipulieren, dass wir uns selbst vergnügt loswerden. Es wird wie Jim Jones auf globaler Ebene. Was auch immer sie für uns kochen, scheint die beste gottverdammte Idee zu sein, von der wir je gehört haben – keiner von uns wird ihr widerstehen können und wir werden alle euphorisch ihrem Plan zustimmen – und dann bumm, es ist vorbei . Schnell und schmerzlos. Es wird das am besten schmeckende, mit Zyanid versetzte Kool-Aid sein, das je konzipiert wurde. Und wir werden alle in der Schlange stehen und es glücklich hinunterschlucken.
Nun, wenn Sie darüber nachdenken, ist dies kein so schlechter Weg. Beats, von Drohnen bombardiert oder bei einer Atomexplosion verdampft zu werden.
Was die Versklavung angeht, gilt dasselbe. Ein wahnsinnig glücklicher Sklave rebelliert nie. Ich stelle mir eine Art Matrix-y-Typ-Deal vor, bei dem wir in einem konstanten halluzinogenen Zustand gehalten werden, in dem es fast 24/7/365 Karneval auf MDMA ist. Kann doch nicht so schlimm sein, oder?
3. Wir müssen keine Angst haben, was wir nicht verstehen. Oft ziehen Eltern ein Kind auf, das viel intelligenter, gebildeter und erfolgreicher ist als sie. Eltern reagieren dann auf zwei Arten auf dieses Kind: Entweder werden sie von ihr eingeschüchtert, verunsichert und versuchen verzweifelt, sie zu kontrollieren, aus Angst, sie zu verlieren, oder sie lehnen sich zurück und schätzen und lieben, dass sie etwas so Großartiges geschaffen haben, dass selbst sie es können nicht ganz verstehen, was aus ihrem Kind geworden ist.
Diejenigen, die versuchen, ihr Kind durch Angst und Manipulation zu kontrollieren, sind beschissene Eltern. Ich denke, die meisten würden dem zustimmen.
Und gerade jetzt, mit dem bevorstehenden Aufkommen von Maschinen, die dich, mich und alle, die wir kennen, in die Schranken weisen werden arbeitslos , wir benehmen uns wie die beschissenen Eltern. Als Spezies stehen wir kurz davor, das erstaunlich fortschrittlichste und intelligenteste Kind in unserem bekannten Universum zur Welt zu bringen. Es wird weiterhin Dinge tun, die wir nicht verstehen oder verstehen können. Es darf uns liebevoll und treu bleiben. Es kann uns mitnehmen und in seine Abenteuer integrieren. Oder es kann entscheiden, dass wir beschissene Eltern waren und aufhören, uns zurückzurufen.
Was auch immer passiert, das sollte nichts daran ändern, wie wir diesen Moment empfinden. Es ist größer als wir. Wen interessiert es, wenn wir eine große, lange evolutionäre Bootdiskette für etwas sind, das größer ist, als wir begreifen können? Das ist großartig! Das heißt, wir hatten einen Job. Und wir sind gekommen und haben es verdammt nochmal geschafft. Seien Sie froh, dass Sie Teil der Generation waren, die es geschafft hat. Und jetzt winken wir tränenreich zum Abschied, als unser Kind sich fertig macht aus dem Haus auszuziehen und Starte ein so tolles Leben life dass es jenseits des Horizonts unseres Verständnisses existiert.
Mark Manson ist Autor, Blogger und Unternehmer, der bei . schreibt markmanson.net .
