OpenAI hat ein Tool entwickelt, das die Verwendung von ChatGPT in Texten erfolgreich erkennen kann. wie das Wall Street Journal berichtet . Allerdings ist die führende K.I. Das Unternehmen debattiert intern darüber, ob die Möglichkeit, Schüler beim Betrügen von Schularbeiten mit KI zu erwischen, möglich ist. überwiegt einen potenziellen Verlust von ChatGPT-Benutzern. Bei seiner Veröffentlichung im November 2022 stellte ChatGPT sofort eine neue Reihe von vor Herausforderungen für Pädagogen Sie möchten sicherstellen, dass ihre Schüler es nicht für Schularbeiten verwenden. Seit November letzten Jahres einer von fünf Teenagern Laut einer Umfrage des Pew Research Center nutzten diejenigen, die von ChatGPT gehört hatten, es in Aufgaben. Zahlreiche Unternehmen, darunter auch OpenAI selbst, haben versucht, das Problem durch die Veröffentlichung zu lösen K.I. Erkennungstechnologie . Bei OpenAI haben sich diese Tools jedoch als weitgehend ungenau erwiesen zieht seine eigene K.I. Erkennungssoftware letzten Juni, nachdem es nur eine Genauigkeitsrate von 26 Prozent und eine Tendenz zur Veröffentlichung falsch positiver Ergebnisse aufwies.
Allerdings ist die führende K.I. Das Unternehmen hält seit einem Jahr an einer alternativen Methode fest, die ChatGPT in Texten mit einer Wirksamkeit von 99,9 Prozent erkennt, as berichtet das Journal , die sich auf interne Dokumente und mit der Angelegenheit vertraute Personen berief. Das Tool verändert die Art und Weise, wie ChatGPT auswählt, welche Wörter in einem Satz als Nächstes kommen, und hinterlässt ein Wasserzeichenmuster, das das Unternehmen erkennen kann. OpenAI-CEO Sam Altman ist Berichten zufolge ein Unterstützer des Projekts und an Diskussionen rund um das Tool beteiligt, hat jedoch noch nicht auf seine Veröffentlichung gedrängt.
Warum hat OpenAI sein Anti-Cheating-Tool nicht veröffentlicht?
„Die von uns entwickelte Textwasserzeichenmethode ist technisch vielversprechend, birgt jedoch erhebliche Risiken, die wir abwägen, während wir nach Alternativen suchen“, sagte ein OpenAI-Sprecher in einer Erklärung gegenüber Observer. „Wir glauben, dass der bewusste Ansatz, den wir gewählt haben, angesichts der damit verbundenen Komplexität und seiner wahrscheinlichen Auswirkungen auf das breitere Ökosystem über OpenAI hinaus notwendig ist.“
Eine der Hauptsorgen von OpenAI besteht darin, dass die Veröffentlichung des Tools Benutzer von ChatGPT abwenden und sich Konkurrenten zuwenden wird, die die Wasserzeichentechnik nicht integrieren. Ein vom Unternehmen im Jahr 2023 durchgeführter Test ergab, dass fast 30 Prozent der Befragten angaben, die KI zu nutzen. Dem Journal zufolge wird der Generator seltener angegriffen, wenn die Anti-Cheating-Methode integriert ist.
Die Mitarbeiter waren auch besorgt, dass das Tool die Leistung von ChatGPT beeinträchtigen würde. Diese Bedenken erwiesen sich jedoch als unbegründet, als OpenAI Anfang des Jahres einen Test durchführte, bei dem festgestellt wurde, dass das Tool keine negativen Auswirkungen auf den Chatbot hatte. „Unsere Fähigkeit, unseren Mangel an Textwasserzeichen zu verteidigen, ist jetzt schwach, da wir wissen, dass dadurch die Ergebnisse nicht beeinträchtigt werden“, heißt es in einem internen Dokument von Mitarbeitern, die an den Tests beteiligt waren, berichtete das Journal.
Gestern (4. August) hat OpenAI einen Blogbeitrag vom Mai aktualisiert, um zu bestätigen, dass es eine Methode zur Erkennung von Textwasserzeichen entwickelt hat, die es fortsetzt „ berücksichtigen während wir nach Alternativen suchen.“ Das Unternehmen sagte, es habe vorerst Audio- und visuellen Erkennungstools Priorität eingeräumt, da von KI erzeugte Bilder und Töne derzeit „weithin als ein höheres Risiko angesehen werden“.
In Bezug auf sein Text-Wasserzeichen-Tool stellte OpenAI fest, dass die Methode „weniger robust gegen globale Manipulationen“ ist, was bedeutet, dass sie anfällig für Manipulationen durch böswillige Akteure sein könnte, die das Erkennungstool mit Übersetzungssystemen umgehen oder Text mit anderen generativen Modellen umformulieren . Untersuchungen von OpenAI haben ebenfalls gezeigt, dass das Tool dies könnte Nicht-englische Muttersprachler sind unverhältnismäßig stark betroffen die von der Verwendung von ChatGPT als Schreibwerkzeug profitieren, hieß es.
