Doch für welche KI-Systeme und KI generierten Inhalte gilt die Kennzeichnungspflicht?
Es gibt keine grundsätzliche Kennzeichnungspflicht, sondern entscheidend ist wofür und wie ein KI-System eingesetzt wird. Betroffen sind Anbieter von KI-Systemen und sogenannte Betreiber (gemeint sind Nutzende von KI-Systemen: Institutionen und Personen, die nicht rein privat Inhalte erzeugen und verwenden, z.B. Influencer)
KI-generierte Inhalte, mit denen Geld verdient wird bzw. die veröffentlicht werden, müssen gekennzeichnet werden. Dies gilt besonders für sogenannte Deepfakes, also erzeugte Texte, Bilder, Audio- oder Videoinhalte, die so echt wirken, dass nicht erkennbar ist, ob es sich um ein Original oder ein synthetisch erzeugtes oder verändertes Medienprodukt handelt. Gleiches gilt für Chatbots bei Kundenhotlines - hier muss für die Kunden ersichtlich sein, dass nicht mit einem Menschen, sondern mit einem KI-System kommuniziert wird.
So ist für die Kennzeichnungspflicht beispielsweise bei der Veröffentlichung von mit KI erstellten Texten zu unterscheiden zwischen vollständig von KI generierten Texten, und Texten, bei denen die künstliche Intelligenz nur zur Inspiration, zur Korrektur oder zur Formulierungshilfe verwendet wurde. Reine KI-Texte müssen gekennzeichnet werden. Wenn der Text vom Nutzenden noch überarbeitet, das Ergebnis der KI also reflektiert und überprüft wird, ist dies als Ausnahme zu werten und eine entsprechende Markierung nach dem AI-Act nicht notwendig. Eine rein private Nutzung von generativer KI erfordert keine Kenntlichmachung (https://www.zdfheute.de/ratgeber/ki-kuenstliche-intelligenz-ai-act-eu-100.html)
