Bozen – Die rasante Entwicklung der künstlichen Intelligenz (KI) bringt nicht nur technologische Durchbrüche, sondern auch erhebliche Risiken für die schwächsten Mitglieder der Gesellschaft mit sich. Besonders die Erstellung von sogenannten Deepfakes – täuschend echte Fälschungen von Bildern, Videos oder Stimmen – bereitet Experten Sorge. Kinder- und Jugendanwältin Daniela Höller nutzt den internationalen Safer Internet Day am 10. Februar, um auf die drastischen Folgen dieser manipulierten Inhalte aufmerksam zu machen.
Gefahrenpotenzial durch manipulierte Inhalte
Deepfakes sind längst kein bloßes technisches Experiment mehr. Mithilfe von KI-Systemen werden Personen in Situationen dargestellt oder mit Aussagen zitiert, die niemals stattgefunden haben. Für junge Menschen kann dies verheerende Konsequenzen haben. Oft wird das Material missbraucht, um pädopornografische Inhalte zu erstellen oder Opfer sozial auszugrenzen und bloßzustellen. Die psychische Belastung für die Betroffenen ist enorm und kann im schlimmsten Fall zu Suizidgedanken führen. Da die Fälschungen kaum noch von der Realität zu unterscheiden sind, verbreiten sie sich in sozialen Netzwerken mit rasender Geschwindigkeit.
Neues Gesetz verschärft Strafen für Täter
Um dieser Form der digitalen Gewalt wirksam entgegenzutreten, bildet das neue Staatsgesetz Nr. 132 vom September 2025 eine wichtige Grundlage. Es überführt EU-weite Standards in nationales Recht und schafft klare Leitlinien für den Einsatz von KI. Ein wesentlicher Kernpunkt ist die Transparenzpflicht: Systeme müssen so gestaltet sein, dass eine menschliche Kontrolle jederzeit möglich bleibt.
Besonders wichtig für Familien in Südtirol: Kinder unter 14 Jahren benötigen zwingend die Zustimmung der Erziehungsberechtigten, um KI-Dienste zu nutzen. Für Jugendliche bis 18 Jahre gelten erleichterte Bedingungen, sofern die Datenverarbeitung verständlich erklärt wird. Besonders abschreckend wirkt der neu eingeführte Straftatbestand. Wer ohne Zustimmung manipulierte Inhalte verbreitet, um Schaden anzurichten, muss mit Gefängnisstrafen zwischen einem und fünf Jahren rechnen. Bei minderjährigen Opfern greift die Justiz zudem von Amts wegen ein, was den Schutz für betroffene Familien erheblich stärkt.
