Was KI-Detektor-Software kann (und was nicht) | c’t uplink

Seit Anfang August schreibt der AI Act der EU mit Artikel 50 vor, wann KI-Inhalte als KI-generiert ausgewiesen werden müssen. Aber was ist, wenn ein Bild, Text oder Lied keine Kennzeichnung hat und man herausfinden will, ob es menschlichen oder künstlichen Ursprungs ist? Dann können KI-Detektoren weiterhelfen, also Software, die genau das analysieren soll und teilweise selbst auf KI-Modellen basiert. In dieser Folge des c’t uplink sprechen wir über die Erkennungsmethoden solcher Software, wie schnell Pangram & Co. an ihre Grenzen kommen und dass sie sich mitunter erstaunlich leicht austricksen lassen. Außerdem gehts um das Thema KI-Slop bei Musik-Streaming-Diensten und warum manche Anbieter derartige Inhalte gerne als solche erkennen, nicht aber verbannen möchten. Unseren Schwerpunkt zu KI-Kennzeichnungspflicht und -Erkennungssoftware lesen Sie bei heise+: https://www.heise.de/ratgeber/KI-Kennzeichnungspflicht-Was-die-EU-ab-August-2026-verlangt-11340625.html