[ad_1]
Meta startet neues Generative AI Tool zur Verbesserung der Genauigkeit von AI-Antworten
Meta versucht das Problem ungenauer oder irreführender Antworten von Generative AI Tools anzugehen
Meta versucht das Problem ungenauer oder irreführender Antworten von Generative AI Tools anzugehen, indem es, ironischerweise, AI selbst verwendet. Das neue Verfahren von Meta nennt sich „Shepherd“. Es wird deutlich gezeigt, dass Meta’s neues Shepherd LLM entworfen wurde, um Modellantworten zu kritisieren und Verbesserungsvorschläge zu machen, um genauere generative AI Ausgaben zu generieren.
Wie von Meta erklärt:
„Der Kern unseres Ansatzes ist ein qualitativ hochwertiger Feedback-Datensatz, den wir aus Community-Feedback und menschlichen Annotationen pflegen. Obwohl Shepherd klein ist (7B Parameter), sind seine Kritiken entweder gleichwertig oder besser als die etablierter Modelle einschließlich ChatGPT. Bei der Verwendung von GPT-4 für die Bewertung erreicht Shepherd im Durchschnitt eine Gewinnrate von 53-87% im Vergleich zu konkurrierenden Alternativen. Bei der menschlichen Bewertung schneidet Shepherd deutlich besser ab als andere Modelle und erzielt durchschnittlich annähernd gleiche Ergebnisse wie ChatGPT.“
Das Shepherd-Tool wird also immer besser darin, automatisiertes Feedback zu geben, warum generative AI-Ausgaben falsch sind. Es hilft dann den Benutzern, nach weiteren Informationen zu fragen oder Details zu klären.
Warum ist das Tool nicht direkt im Haupt-KI-Modell integriert?
Die Frage ist, warum das Tool nicht direkt im Haupt-KI-Modell integriert wird, um bessere Ergebnisse ohne diesen Zwischenschritt zu liefern. Ich bin jedoch kein Programmiergenie und kann nicht behaupten zu verstehen, ob dies überhaupt in diesem Stadium möglich ist.
Dies wäre natürlich das endgültige Ziel: bessere Antworten zu ermöglichen, indem generative AI-Systeme gezwungen werden, ihre falschen oder unvollständigen Antworten neu zu bewerten, um bessere Antworten auf Ihre Anfragen zu liefern.
In der Tat behauptet OpenAI, dass das GPT-4-Modell bereits deutlich bessere Ergebnisse liefert als die derzeit kommerziell erhältlichen GPT-Systeme, wie die in der aktuellen Version von ChatGPT verwendeten. Einige Plattformen erzielen auch gute Ergebnisse bei der Verwendung von GPT-4 als Grundlage für Moderationstätigkeiten, und dies oft in Konkurrenz zu menschlichen Moderatoren.
Dies könnte zu großen Fortschritten bei der Verwendung von KI durch soziale Medienplattformen führen. Und obwohl solche Systeme wahrscheinlich nie so gut sein werden wie Menschen bei der Erkennung von Feinheiten und Bedeutungen, könnten wir in Zukunft einer viel stärkeren automatisierten Moderation unserer Beiträge unterliegen.
Bei allgemeinen Anfragen könnte Shepherd auch dazu beitragen, die bereitgestellten Ergebnisse zu verbessern oder Entwicklern helfen, bessere Modelle bereitzustellen, die der Nachfrage gerecht werden. Im Endeffekt werden diese Tools immer intelligenter und besser darin, unsere Anfragen zu verstehen. Daher wird Generative AI beeindruckender darin, was sie bereits leisten kann, und kommt der Zuverlässigkeit als unterstützendes Werkzeug immer näher, was auch einen größeren Teil Ihres Arbeitsablaufs ausmacht.
Hier können Sie mehr über Meta’s Shepherd-System lesen.