useful pictures - stock.adobe.com
Gutachten warnt vor Risiken
Aktuell besteht die Gefahr, dass KI-generierte Inhalte, Bilder oder Videos zu einer Desorientierung von Minderjährigen beitragen und die Polarisierung der Gesellschaft befördern. Daher sei es wichtig, dass diese Risiken rechtzeitig durch Gesetzesänderungen adressiert werden. Auch dabei müsse man früher im Erzeugungsprozess ansetzen und die KI-Anbieter*innen in die Pflicht nehmen. So lauten die zentralen Ergebnisse eines Gutachtens des Instituts für Europäisches Medienrecht (EMR), das die Kommission für Jugendmedienschutz (KJM) beauftragt hat.
„Mit wenigen Klicks können durch generative KI Bilder oder Videos erzeugt werden, die Empörung über kontroverse Themen schüren und junge Menschen verunsichern und verwirren. Auch die durch KI kinderleichte Erstellung von schwersten Missbrauchsdarstellungen macht deutlich, dass bei den rasanten technischen Entwicklungen der Schutz von Kindern und Jugendlichen nicht auf der Strecke bleiben darf. Hier müssen wir früher ansetzen und KI-Anbieter*innen in die Verantwortung nehmen. Es darf nicht sein, dass solche Inhalte überhaupt entstehen können.“
Mit KI-Jugendschutzbeauftragten zu mehr Schutz
Um gegenzusteuern, benennt das Gutachten konkrete Vorschläge. Zentral sei, dass KI-Systeme explizit in den Geltungsbereich des Jugendmedienschutz-Staatsvertrags (JMStV) aufgenommen würden. Ähnlich wie bei Telemedien, Games, Kinofilmen oder Rundfunk sei es sinnvoll, Selbstkontrolleinrichtungen einzubeziehen. Mit einem unabhängigen KI-Jugendschutzbeauftragten sollte zudem eine Ansprechperson existieren, die bei Entwicklung, Training sowie Anwendung von KI-Anwendungen einbezogen ist. Und: Der JMStV, aber auch das Jugendschutzgesetz des Bundes (JuSchG) sowie der Digital Services Act (DSA) müssen dringend mit Blick auf die schnelle Entwicklung von KI regelmäßig evaluiert werden – und zwar in kürzeren Abständen als bisher.
Das Gutachten im Auftrag der KJM kommt zu dem Schluss, aktuell bestehe die Gefahr, dass KI-generierte Inhalte, Bilder oder Videos zu einer Desorientierung von Minderjährigen beitragen und die Polarisierung der Gesellschaft befördern. Daher sei es wichtig, dass diese Risiken rechtzeitig durch Gesetzesänderungen adressiert werden.
Sashkin - stock.adobe.com
Einrichtungen der Freiwilligen Selbstkontrolle
FSM, FSK, FSF und USK