Ist es nicht unglaublich, was KI aus dem Nichts erschafft? So oder ähnlich hört man es oft von Leuten, die sich von generativer KI begeistern lassen. Dabei sind menschliche Arbeitende sehr wohl noch Teil des Prozesses – manchmal auf kritische Weise.
Generative KI wird oft mit der Vorstellung verknüpft, dass sie alleine und ohne menschlichen Einfluss arbeite. Tatsächlich gibt es eine solche Technologie aber bislang nicht. OpenAI und andere Firmen aus Silicon Valley beschäftigen im Hintergrund Millionen von Arbeiter*innen, um Inhalte zu verwalten und zu moderieren, damit Large Language Models wie ChatGPT überhaupt existieren können. Manche werden sogar angeheuert, um sich als Chatbots auszugeben, wie etwa über den virtuellen Assistenten „Facebook M“ berichtet wurde.
Dabei entstehen ähnlich neokoloniale Tendenzen, für die westliche Firmen aus anderen Branchen in der Vergangenheit kritisiert wurden – immerhin wird gezielt Outsourcing betrieben, mit billigen Arbeitskräften im Ausland aus verarmten Schichten. Data Labeling und die Moderation von Inhalten können stark überwachte, schlecht bezahlte und gesundheitlich beeinträchtigende Aufgaben sein, mit unter 2 Dollar Verdienst pro Stunde.
Die Firma Sama, welche Moderator*innen für u. a. Meta (verantwortlich für Facebook und Instagram), Google, Microsoft und OpenAI in Kenya beschäftigt, verlangt beispielsweise, dass sie Entscheidungen zu gewaltvollen Videos innerhalb von 50 Sekunden treffen. Dabei ist es egal, wie lang und verstörend die Videos sind, die alle möglichen Inhalte zwischen Mord, Vergewaltigung und Sodomie abdecken können. Es gibt nicht mehr Zeit, und auch keine Pause bei zu viel Stress.
Jedes Ergebnis eines Prompts kommt mit solcher Moderationsarbeit einher, um zu vermeiden, dass exzessive körperliche und sexuelle Gewalt oder pornographisches Material herauskommen. Die traumatische Belastung, der Arbeitende dafür ausgesetzt sind, bleibt unsichtbar.
Quellen:
Artikel: Die ausgebeuteten Arbeiter*innen hinter Künstlicher Intelligenz (EN)
Artikel: Die Menschen hinter dem virtuellen Assistenten von Facebook (EN)
Artikel: Der Aufstieg von Pseudo-KI – wie Menschen heimlich für die Arbeit von Bots eingesetzt werden (EN)
Artikel: Was steckt hinter dem KI Boom? Ausgebeutete Arbeiter*innen (EN)
Blog-Eintrag: Die unterbezahlten Arbeiter*innen aus Kenya, die OpenAI betreiben (EN)
Die Kommentarfunktion ist deaktiviert, aber Trackbacks und Dingbacks sind offen.