Diese Geschichte ist aus dem Substack-Newsletter Big Technology syndiziert; hier kostenlos abonnieren .
KI-Chatbots werden so gut, dass die Leute sie allmählich als Menschen sehen. Mehrere Benutzer haben die Bots kürzlich als ihre bezeichnet besten Freunde , andere haben ihre Liebe gestanden , und ein Google-Ingenieur hat sogar einem geholfen einen Anwalt beauftragen . Aus Produktsicht sind diese Bots außergewöhnlich. Aber aus Forschungssicht müssen die Menschen, die von ihrer Intelligenz auf menschlicher Ebene träumen, einer Realitätsprüfung unterzogen werden.
Chatbots werden heute nur auf Text trainiert, eine schwächende Einschränkung. Berge des geschriebenen Wortes aufnehmen dürfen Erzielen Sie atemberaubende Ergebnisse - wie umschreiben Eminem im Shakespeare-Stil – aber es verhindert die Wahrnehmung der nonverbalen Welt. Ein Großteil der menschlichen Intelligenz ist nicht abgewertet. Wir holen uns unser angeborenes Verständnis von Physik, Handwerk und Emotionen nicht durch Lesen, sondern durch Leben. Ohne schriftliches Material zu diesen Themen zum Trainieren kommt die KI zu kurz.
Martin Short Unzerbrechlich Kimmy Schmidt
„Das Verständnis, das diese aktuellen Systeme von der zugrunde liegenden Realität haben, die Sprache ausdrückt, ist extrem oberflächlich“, sagte Yann LeCun, leitender KI-Wissenschaftler von Meta und Professor für Informatik an der New York University. 'Es ist kein besonders großer Schritt in Richtung Intelligenz auf menschlicher Ebene.'
LeCun hielt ein Blatt Papier hoch und demonstrierte kürzlich das begrenzte Weltverständnis von ChatGPT Großer Technologie-Podcast Folge . Der Bot würde nicht wissen, was passieren würde, wenn er das Papier mit einer Hand loslassen würde, versprach LeCun. Nach Rücksprache sagte ChatGPT, das Papier würde „in die Richtung der Hand kippen oder rotieren, die es nicht mehr hält“. Für einen Moment schien die Antwort angesichts ihrer Präsentation und Zuversicht plausibel. Aber der Bot lag vollkommen falsch.
Lecuns Papier bewegte sich auf die Hand zu, die es immer noch hielt, etwas, das Menschen instinktiv wissen. ChatGPT wurde jedoch ausgeblendet, weil die Leute selten die Physik des Loslassens eines Papiers in Text beschreiben. (Vielleicht bis jetzt).
„Ich kann mir einen riesigen Stapel ähnlicher Situationen einfallen lassen, von denen jede in keinem Text beschrieben wurde“, sagte LeCun. „Also die Frage, die Sie stellen möchten, lautet: ‚Wie viel menschliches Wissen ist vorhanden und in Text beschrieben?‘ Und meine Antwort darauf ist ein winziger Teil. Der größte Teil des menschlichen Wissens ist eigentlich nicht sprachbezogen.“
Ohne ein angeborenes Verständnis der Welt kann KI nichts vorhersagen. Und ohne Vorhersage kann es nicht planen. „Vorhersage ist die Essenz der Intelligenz“, sagte LeCun. Dies erklärt zumindest teilweise, warum selbstfahrende Autos immer noch durch eine Welt stolpern, die sie nicht vollständig verstehen. Und warum die Chatbot-Intelligenz trotz der Anthropomorphisierung begrenzt – wenn auch immer noch mächtig – bleibt.
