Stand: 20. Juli OpenAI hat zog leise den Stecker über ihre K.I. Erkennungssoftware, AI Classifier, unter Berufung auf seine „Geringe Genauigkeit.“ Wenn Sie zum ersten Mal davon hören, wundern Sie sich nicht – OpenAI hat die Nachricht so tief im Untergrund vergraben, dass es eine Woche dauerte, bis jemand sie überhaupt bemerkte.
Das Ende des AI Classifier kam nicht mit einem Knall, sondern mit einem Wimmern. Anstatt die Änderung in einer Erklärung anzukündigen, hat OpenAI die Landingpage von AI Classifier entfernt, auf der jetzt lediglich eine angezeigt wird Fehlermeldung , dann oben in zwei Sätzen bearbeitet, um Benutzer über die Einstellung des Tools zu informieren Blogbeitrag vom Januar das das Produkt erstmals auf den Markt gebracht hat. In dem aktualisierten Beitrag sagte OpenAI, dass das Unternehmen „an effektiveren Provenienztechniken forscht“.
OpenAI lehnte es ab, über den Januar-Blogbeitrag hinaus einen Kommentar abzugeben.
Die Ungenauigkeit von AI Classifier ist nicht gerade eine Überraschung, wenn man bedenkt, dass in der ersten Ankündigung mehr Worte auf seine Vorbehalte und Einschränkungen als auf seine Stärken verwendet wurden. Laut OpenAI konnte das Erkennungstool nur 26 Prozent des von KI geschriebenen Textes korrekt identifizieren und, was noch besorgniserregender ist, in 9 Prozent der Fälle falsch positive Ergebnisse (Beurteilungen, bei denen von Menschen geschriebener Text als von KI stammendes Plagiat beurteilt wurde) ausspucken.
Für Pädagogen ist eine unzuverlässige K.I. Plagiatsdetektoren bringen weit mehr Gefahren als Vorteile mit sich
Die Schließung von AI Classifier ist für den Bildungssektor besonders besorgniserregend. Die Erstellung von ChatGPT schickte akademische Institutionen ins Straucheln Als sich herausstellte, dass Studierende zunehmend auf generative KI angewiesen waren. für fast alles . K.I. Die Erkennungssoftware galt ursprünglich als einer der wenigen verfügbaren Leuchttürme, um Lehrern durch das stürmische Meer von KI-generierten Plagiaten zu helfen, aber es sieht so aus, als würde dieses Licht möglicherweise erlöschen.
Marc Watkins, ein Professor an der University of Mississippi, der sich auf KI spezialisiert hat. im Bildungswesen betrachtet die Abschaltung von AI Classifier als Sinnbild für ein größeres Problem.
„Dies ist eine Anerkennung dafür, dass [A.I. Erkennungssoftware] funktioniert nicht wirklich auf ganzer Linie“, sagte er gegenüber Observer und verwies auf die Ergebnisse der University of Pittsburgh vor Kurzem nicht mehr verwendet von K.I. Aus Gründen der Genauigkeit verwenden Sie bitte das Erkennungstool Turnitin.
„Angesichts der Tatsache, dass das Tool im Januar veröffentlicht und dann im Juli eingestellt wurde, scheint es ein ziemlich klarer Hinweis darauf zu sein, dass dies nicht funktioniert“, sagte Watkins über AI Classifier.
Watkins ist nicht der Einzige, der das Vertrauen in die KI verliert. Erkennungstechnologie; In einer am 25. Juli veröffentlichten Twitter-Umfrage gaben nur 15,3 Prozent der 667 Befragten an, dass sie glauben, dass es jedem möglich sei, einen durchweg genauen Detektor herzustellen.
Im Licht von @OpenAI Glauben Sie, dass irgendjemand jemals in der Lage sein wird, einen Detektor zu entwickeln, der KI-geschriebene Inhalte genau erkennt, nachdem das Unternehmen sein KI-Erkennungstool wegen mangelnder Genauigkeit abgeschaltet hat?
– DataChazGPT 🤯 (kein Bot) (@DataChaz) 25. Juli 2023
Denn wenn OpenAI, das Unternehmen hinter ChatGPT, nicht in der Lage ist, zu bestimmen, welcher Text von ihm generiert wird eigen Algorithmus kann man sich kaum vorstellen, dass andere Erkennungstools wie GPT-0 oder Originality.AI viel besser abschneiden.
Die Folgen ungenauer K.I. Die Erkennung geht tiefer als nur das Fehlen einiger von GPT verfasster Arbeiten. Als Student der University of California aus erster Hand entdeckt In diesem Frühjahr hat A.I. Plagiatsdetektoren können mit ihren Anschuldigungen schießwütig sein und am Ende Lehrer dazu veranlassen, Schüler fälschlicherweise für Aufsätze zu melden, die völlig ohne Einfluss von außen geschrieben wurden.
Auch diese Fehlalarme sind nicht zufällig. Beispielsweise „schneiden nicht englischsprachige Schüler bei Ratlosigkeit, einem der Hauptkriterien der K.I., schlechter ab.“ Detektoren zur Bestimmung von A.I. „Generierter Text“, sagte Watkins, „was bedeutet, dass Nicht-Muttersprachler viel häufiger falsch gekennzeichnet werden.“
Während das Ende von AI Classifier nur sehr geringe greifbare Auswirkungen hat (es gibt Tausende weitere online), symbolisiert es etwas weitaus Größeres: die weit verbreitete Unfähigkeit der aktuellen technologischen Gegenspieler zu ChatGPT.
Watkins sagte dem Observer, er befürworte oder empfehle keines der derzeit verfügbaren Erkennungstools, und angesichts des peinlichen Rückzugs von OpenAI aus der Front der Klassifizierungssoftware ist es nicht schwer zu verstehen, warum.
