Diese Geschichte ist aus dem Substack-Newsletter Big Technology syndiziert; hier kostenlos abonnieren
Detektiv Pikachu Abspannszene
Jetzt spricht dieses KI-Programm mit uns in natürlicher Sprache, drehen unsere Gedanken in Illustrationen , und verkörpern unsere Stimmen , ein großer Konflikt über ihre Ethik ist unterwegs.
Und wenn Sie der Meinung waren, dass der Kampf um die Inhaltsmoderation intensiv war, warten Sie einfach auf diesen.
Auf dem Spiel steht, wie Chatbots politische Themen ansprechen, wie KI-Illustratoren die Welt darstellen und ob einige Anwendungen wie Sprachemulatoren überhaupt existieren sollten. Angesichts des Umfangs und der Leistungsfähigkeit dieser blühenden Technologie werden die Aktivisten nicht subtil sein. Sie haben sich im Online-Streit um menschliche Sprache geübt und werden diese Erfahrung in diesen Krieg einbringen. Es könnte schnell unordentlich werden.
„Jeder hat seine Messer geschärft“, sagte Sam Lessin, ein Risikokapitalgeber und ehemaliger Facebook-Manager. „Zumindest beim Sprechen waren alle ein bisschen schief und haben es nicht wirklich verstanden. Bei diesem hier sagen sie: ‚Oh Scheiße, ich habe dieses Spiel schon einmal gesehen.‘ Jede einzelne Lobby auf der Welt ist bereit, ihre Briefe zu schreiben und ihre Einflusskampagnen zu starten.“
Die Intelligenz der KI mag künstlich sein, aber der Mensch verschlüsselt ihre Werte. OpenAI zum Beispiel entscheidet effektiv, ob ChatGPT zur Todesstrafe (keine Meinung), Folter (es ist dagegen) Stellung bezieht und ob ein Mann schwanger werden kann (es sagt nein). Mit ihrem KI-Illustrator Dall-E beeinflusst die Organisation, welche Art von Person die Tech darstellt, wenn sie einen CEO zeichnet. In jedem Fall treffen Menschen hinter den Kulissen Entscheidungen. Und Menschen sind beeinflussbar.
Wie bei der Inhaltsmoderation wird es einige offensichtliche ethische Konsensentscheidungen für die generative KI geben (Sie wollen zum Beispiel keine Chatbots, die sich für Völkermord einsetzen), aber die Befürworter werden sich im Grauen behaupten. „Es ist ein sehr mächtiges Werkzeug, und die Leute werden eine breite Palette von Dingen damit machen wollen, um ihre eigenen Interessen zu erfüllen“, sagte Lessin. „Wenn Sie sich ansehen, wie sich das Zeug zur Redefreiheit entwickelt hat, wird es wieder auf die gleiche Weise ablaufen, nur schneller.“
Zu den potenziellen Konfliktbereichen gehört, wie KI Rasse, Geschlecht, Kriegsführung und andere heikle Themen angeht. ChatGPT listete in einem kürzlich geführten Gespräch mehrere Vorteile auf, wenn die Ukraine den Krieg gegen Russland gewinnt. Aber gebeten, positive Ergebnisse von Russlands Kriegsgewinn aufzulisten, lehnte es ab. ChatGPT moralisiert auch viel. „Krieg ist ein schwerwiegendes und verheerendes Ereignis und sollte nach Möglichkeit immer vermieden werden“, sagte der Bot in einer typischen Interaktion. „Das beste Ergebnis ist immer Frieden und eine diplomatische Lösung.“
Ethische Entscheidungen für generative KI sind besonders wichtig, weil sie skalierbar sind. Wenn Sie Werte in einen Chatbot codieren, kann er diese Werte wiederholt in Konversationen übertragen. Wenn Sie eine Entscheidung zur Inhaltsmoderation treffen, betrifft dies in den meisten Fällen nur eine Person und einen Inhalt.
Der beste Weg, mit dieser neuen Macht umzugehen, besteht darin, die Bots so unparteiisch wie möglich spielen zu lassen, sagte Dr. Jeffrey Howard, Professor für Politikwissenschaft an der Londoner UCL. „Diese Werturteile sind unausweichlich“, sagte er. „Eines der Werturteile könnte sein, eine gewisse Neutralität und Unvoreingenommenheit einzubauen.“
Letztendlich kann die Dezentralisierung der generativen KI etwas von der Spannung ablassen. Während Sprache heute online relativ zentralisiert ist, arbeiten viele Entwickler an generativer KI. Und wenn Entwickler Apps mit ihren eigenen Moralvorstellungen entwickeln, kann ein totaler Krieg um die Politik der Zentralmächte verblassen. Aber in der Zwischenzeit erwarten Sie viel Positionierung, Schmeichelei und Streit um die Ethik, die die Big Player in ihre Modelle einbauen.
