Kategorien
Allgemein

Content-Moderation der Zukunft: ChatGPT erleichtert die Arbeitslast

In sozialen Netzwerken wie Facebook werden täglich Unmengen von Inhalten hochgeladen – von denen einige direkt wieder gelöscht werden müssen, weil sie gegen die Nutzungsrichtlinien der Plattform oder sogar gegen Gesetze verstoßen. Verantwortlich dafür sind Content-Moderator:innen, die in der Regel große Mengen hochgeladener Inhalte nach auffälligen Inhalten durchsuchen und diese mit Hilfe ihres Kontextverständnisses bewerten. Dieser Prozess ist nicht nur sehr zeitaufwendig, sondern kann aufgrund der oft schädlichen Natur von anstößigen Inhalten auch zu psychischem Stress führen. OpenAI bewirbt daher nun GPT-4 als Lösung, um große Mengen an Inhalten automatisiert durch das Sprachmodell moderieren zu lassen, und richtlinienwidrige Inhalte herauszufiltern. Dabei verspricht das Unternehmen nicht nur schnellere Prozesse und eine geringere mentale Belastung der beteiligten Personen, sondern berichtet auch von einer qualitativ hochwertigen Moderation: Das Sprachmodell GPT-4 ist laut OpenAI hinsichtlich der Qualität gleichwertig mit leicht geschulten menschlichen Moderator:innen. Menschen mit Training und Erfahrung in Content-Moderation schlagen das KI-System jedoch weiterhin.

Quelle: OpenAI

Kommentar verfassen