Kann ChatGPT wirklich wie ein Mensch denken? Fragen und Antworten mit K.I. Wissenschaftler Dave Ferrucci

Künstliche Intelligenz wird schnell intelligent. Die jüngsten Durchbrüche der Technologie, die sich in den beeindruckenden Fähigkeiten von Anwendungen wie ChatGPT manifestieren, haben Befürchtungen geweckt, dass K.I. könnte bald die Menschheit übernehmen – und zwar nicht im guten Sinne. Letztes Jahr behauptete ein Google-Ingenieur, die K.I. Chatbot LaMDA war so intelligent, dass es „empfindungsfähig“ geworden war. In diesem Jahr war im März eine Gruppe von mehr als 1.000 Tech-Unternehmern und Akademikern, darunter Elon Musk, alarmiert über die potenzielle Gefahr von KI forderte eine sechsmonatige Trainingspause für K.I. Systeme fortgeschrittener als GPT-4 von OpenAI, das neueste Sprachmodell, das ChatGPT unterstützt.

Während LLM-Anwendungen (Large Language Model) wie ChatGPT und Googles Bard das Potenzial gezeigt haben, Menschen bei vielen Aufgaben zu übertreffen und Arbeitsplätze zu ersetzen, sind sie keineswegs mit dem menschlichen Gehirn identisch, da die zugrunde liegenden Lernmechanismen unterschiedlich sind, David Ferrucci, ein Informatiker und früher Pionier der kommerziellen KI. Anwendung, sagte Observer.

Ferrucci ist vor allem als Erfinder von IBM Watson bekannt. Ende der 2000er Jahre entwickelt, um Fragen in der Fernsehquizshow zu beantworten Gefahr! Im Jahr 2011 setzte sich das Computersystem schließlich gegen menschliche Konkurrenten durch.

'Wenn das Gefahr! „Als die Herausforderung Anfang 2007 vorgeschlagen wurde, war ich der Einzige bei IBM Research, selbst in der akademischen Gemeinschaft, der dachte, dass es machbar sei, und sich im Grunde genommen dafür angemeldet hat“, sagte Ferrucci in einem Interview mit Observer.

Im Kern ist IBM Watson ein auf maschinellem Lernen basierendes System, das gelernt hat, wie man antwortet Gefahr! Fragen durch die Verarbeitung großer Datenmengen aus früheren Shows. Es kam zu einer Zeit heraus, als sich Deep Learning, ein Teilbereich der künstlichen Intelligenz, durchzusetzen begann. Davor waren Computersysteme stark auf die Programmierung und Überwachung durch Menschen angewiesen.

Im Jahr 2012, kurz nach Watsons Blockbuster-Erfolg, verließ Ferrucci IBM nach 18 Jahren, um die Leitung von A.I. zu übernehmen. Untersuchung für Bridgewater Associates , der weltweit größte Hedgefonds. Im letzten Jahrzehnt konzentrierte sich Ferruccis Arbeit größtenteils auf die Entwicklung hybrider KI, die darauf abzielt, datengesteuertes maschinelles Lernen mit logischem Denken zu kombinieren – mit anderen Worten, Algorithmen so zu trainieren, dass sie mehr wie Menschen „denken“.

Martin Shkreli Jury-Auswahlprotokoll

Im Jahr 2015 finanzierte Bridgewater ein internes Projekt unter der Leitung von Ferrucci, das sich schließlich als unabhängiges Unternehmen namens „Spinning“ ausgliederte Elementare Erkenntnis . Die Hybrid-K.I. von Elemental Cognition Laut seiner Website können Anwendungen im Investitionsmanagement, in der Logistikplanung und in der Arzneimittelforschung eingesetzt werden. Im Februar gewann das Startup Bridgewater als Kunden.

In einem Interview mit Observer Anfang dieses Monats erörterte Ferruci die unterschiedlichen Lernprozesse von ChatGPT und dem menschlichen Gehirn, die Notwendigkeit einer hybriden KI und warum er den Vorschlag für eine sechsmonatige KI für wichtig hält. Innehalten ist eher symbolischer als praktischer Natur.

Das folgende Transkript wurde aus Gründen der Klarheit bearbeitet.

Was genau ist Hybrid-KI?

Hybride KI kombiniert einen datengesteuerten, induktiven Prozess mit einem logikgesteuerten Prozess. Maschinelles Lernen ist ein datengesteuerter Prozess. Es wird nur besser, je mehr Trainingsdaten verfügbar sind. Aber um mit Menschen zu kommunizieren, braucht man auch Logik und Argumentation.

Die menschliche Wahrnehmung funktioniert auf die gleiche Weise, wie in Daniel Kahnemans Buch erklärt Denken, schnell und langsam. Das menschliche Gehirn funktioniert, indem es gleichzeitig schnell und langsam denkt. Um eine präzise und zuverlässige Entscheidungsfindung zu erreichen, benötigen Sie das Beste aus beiden Welten.

Beste legale Ergänzung zum Muskelaufbau

Wie unterscheidet sich schnelles Denken vom langsamen Denken? Warum brauchen wir beides?

Schnelles Denken bedeutet, dass wir aus unseren Erfahrungen oder Daten extrapolieren und dann verallgemeinern. Eine Verallgemeinerung kann jedoch falsch sein, da sie auf oberflächlichen Merkmalen basiert, die möglicherweise mit den Daten korrelieren, aber nicht wirklich ursächlich sind – das ist die Grundlage vorurteilsvollen Denkens.

Langsames Denken bedeutet, ein Modell dafür zu formulieren, wie die Dinge meiner Meinung nach funktionieren: Was sind meine Werte? Was sind meine Annahmen? Was sind meine Inferenzregeln? Und was ist meine Logik, um eine Schlussfolgerung zu ziehen?

Wenn wir über K.I. sprechen Heute denken wir automatisch an maschinelles Lernen, das, wie Sie sagten, ein datengesteuerter Prozess ist. Gibt es reale Beispiele für rein logikgesteuerte KI?

Ja, logikgesteuerte KI. wurde in viele reale Anwendungen integriert. Formale Darstellungen der Problemlösungslogik, B. regelbasierte Systeme oder Systeme zur Lösung von Einschränkungen und zur Optimierung, werden für Ressourcenmanagement-, Terminplanungs-, Planungs-, Steuerungs- und Ausführungsanwendungen verwendet.

Aber wir betrachten sie nicht als KI. nicht mehr, vor allem, weil mit der Revolution von Big Data und maschinellem Lernen die K.I. wurde stark mit maschinellen Lernsystemen in Verbindung gebracht.

Wo stehen LLMs wie GPT und LaMDA im Spektrum des schnellen/langsamen Denkens? Sind sie der menschlichen Intelligenz wirklich nahe, wie ein Google-Ingenieur letztes Jahr behauptete?

LLMs erzeugen große Datenstrukturen, die die statistischen Wahrscheinlichkeiten bestimmter Wortfolgen im Anschluss an andere Wortfolgen erfassen. Was ChatGPT macht, sind statistische Vorhersagen, die auf den oberflächlichen Merkmalen der Sprache basieren. Mit genügend Trainingsdaten und wirklich leistungsstarken Techniken des maschinellen Lernens können diese Modelle eine fließend klingende Sprache nachahmen.

Das ist keine logische Argumentation. Es ist schwer zu behaupten, dass eine große Wahrscheinlichkeitstabelle empfindungsfähig ist. Ich würde sagen: Nein. Eine interessante Sache an der menschlichen Kognition ist jedoch, dass wir kohärent klingende Texte mit Fakten verbinden. Wir sind der Meinung, das hört sich wirklich gut an, es muss wahr sein. Aber die Wahrheit erfordert ein tieferes Verständnis und eine tiefere Analyse, die über die oberflächlichen Merkmale der Sprache hinausgeht.

Sind Sie wegen der KI nervös? irgendwann die Menschen überlisten?

K.I. kann bestimmte Aufgaben besser ausführen als der Mensch. Das gilt schon seit Jahren. Heutzutage, da sich Daten und Trainingstechniken verbessern, ist es immer einfacher, KI zu trainieren. Systeme, um mehr menschliche Aufgaben zu erledigen. Ich denke, das ist sehr bedeutsam. Aber ich glaube nicht, dass K.I. wird übernehmen. Es gibt kein unabhängiges Wesen, das Sie erobern will. Allerdings ist K.I. kann leicht missbraucht werden. Ich denke, das ist ein echtes Problem.

Elemental Cognition hat kürzlich Bridgewater als Kunden gewonnen, der auch ein früher Investor in Ihr Unternehmen ist. Wie kann hybride K.I. Investmentmanagern dabei helfen, die Wirtschaft und die Märkte besser zu verstehen?

Das Verständnis der Wirtschaft kann auf zwei Arten erfolgen: Muster in Daten erkennen und diese Muster interpretieren, um zu verstehen, was vor sich geht.

Im Investmentmanagement besteht das ultimative Ziel darin, genaue Vorhersagen zu treffen, indem man sich Wirtschaftsindikatoren wie Zinssätze und Aktienkurse ansieht. Daten können Ihnen viel sagen. Wenn Sie Muster in den Daten erkennen könnten, wäre das wirklich aussagekräftig. Und wenn man die Muster interpretieren und verstehen kann, was in der Wirtschaft vor sich geht, dann hat man eine andere Perspektive. Es ist fast so, als könnte man Checks and Balances durchführen: Hier sind die Korrelationen, die in den Daten angezeigt werden, und hier ist mein Verständnis davon, wie die Dinge funktionieren. Sind sie einverstanden oder nicht?

völlig kostenlose christliche Dating-Site

Was halten Sie von dem Vorschlag, die KI zu pausieren? sechs Monate lang trainieren?

Ich glaube nicht, dass das zunächst praktikabel ist, denn große Sprachmodelle sind kein Geheimnis. Es wird immer Unternehmen geben, die daran arbeiten. Wir werden weiterhin viele Experimente erleben. Ich glaube nicht, dass es sinnvoll ist, dieses Experiment zu stoppen.

Aber ich denke, es ist sinnvoll, einen Schritt zurückzutreten und gründlich darüber nachzudenken. Die politischen Entscheidungsträger müssen darüber nachdenken, wie sie die KI regulieren können. weil es auf verschiedene Weise missbraucht werden kann. Es ist wahrscheinlich, dass Regulierungen entwickelt und angewendet werden.