KI in / für Museen - Informationen, Richtlinien und Vorlagen

Vorbemerkungen
In Zeiten von Corona standen Museen auf der Liste der vertrauenswürdigen Institutionen ganz oben. Seitdem hat sich viel verändert, KI-Anwendungen sind bei jeder und jedem von uns angekommen – sowohl im privaten als auch im beruflichen Bereich.
Museen und Sammlungen hinterfragen als Bildungseinrichtungen vorhandenes Wissen und stellen es in Zusammenhang mit der Gegenwart. Sie generieren neues Wissen durch das Erforschen ihrer Sammlungen und durch den Dialog mit ihren Besucher:innen. 
KI-Systeme – gezielt und verantwortungsvoll eingesetzt – können dabei eine große Unterstützung sein. Niemals jedoch sind sie Ersatz für menschliches Denken und Handeln. Das Vertrauen der Gesellschaft in die Institution Museum verlangt die Überprüfung KI-generierter Inhalte und ihre Kennzeichnung, um fehlerhafte Informationen zu vermeiden.

Der EU AI Act – die europäische KI-Verordnung: MUSIS unterstützt
Egal ob wir KI gut finden oder sie ablehnen: Sie ist da, und es ist unsere Aufgabe verantwortungsvoll damit umzugehen. So können Museen und Sammlungen weiterhin als vertrauenswürdige Institutionen auftreten. Dabei möchten wir Sie so gut wie möglich mit Informationen bei Ihrer Arbeit unterstützen:

Seit dem 1. August 2026 ist die europäische KI-Verordnung offiziell in Kraft getreten. Sie stuft KI-Anwendungen nach Risiken ein. KI-Systeme, die aufgrund ihres Einsatzbereichs und ihrer möglichen Auswirkungen auf Menschen ein besonders hohes Risiko für Gesundheit, Sicherheit oder Grundrechte darstellen, sind verboten. Dazu gehören Praktiken wie "Social Scoring", also die automatisierte Bewertung von Menschen anhand ihres sozialen Verhaltens oder persönlicher Merkmale.
Für die erlaubten KI-Systeme bestehen je nach Risikoeinschätzung Kennzeichnungs- und Transparenzpflichten, um KI-Inhalte für User:innen (Besucher:innen) als solche erkennbar zu machen.

Für Museen sind die typischen KI-Anwendungen normalerweise keine Hochrisiko-KI:

• ChatGPT für Texte
• KI zur Übersetzung
• KI zur Transkription alter Handschriften
• Bildgenerierung
• KI für Social-Media-Beiträge
• KI zur Verschlagwortung von Sammlungsobjekten

Der Artikel 50 des EU AI Act gilt für alle – auch für Museen
Er führt Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme ein, wonach Nutzer:innen darüber informiert werden müssen, wenn sie mit einem KI-System interagieren oder wenn Inhalte durch KI generiert wurden. 

Zusammenfassend bestehen für Museen besonders relevante Kennzeichnungspflichten, wenn

1. KI Inhalte synthetisch generiert (= erstellt) werden.
Das heißt, wenn Inhalte nicht nur digitalisiert oder bearbeitet werden, sondern mit einem KI-System generiert (= erstellt) werden.

2. KI Deepfakes erstellt oder Texte zu Themen von öffentlichem Interesse generiert werden.
KI-generierte Deepfakes (Bilder, Videos, Audios) müssen klar gekennzeichnet werden. Dazu zählen Inhalte, die bestehenden Personen, Objekten, Orten, Einrichtungen oder Ereignissen ähneln oder authentisch als solche erscheinen.

Beispiele:

• Eine historische Person wird mithilfe von KI porträtiert, obwohl kein Foto von ihr existiert.
• Ein historischer Ort wird rekonstruiert, z.B. ein Raum in einem Schloss mit KI-generierter Möblierung.
• Ein Objekt wird in verschiedenen historischen Kontexten dargestellt.
• Eine KI lässt eine historische Persönlichkeit einen fiktiven Brief vorlesen.
• Eine ausgestorbene oder nicht mehr erhaltene Alltagssituation wird visualisiert.
• Aus schriftlichen Quellen entsteht ein Hörspiel, das verschiedene historische Stimmen miteinander verbindet.

Ausnahmen:

• KI-generierte Inhalte, die einer redaktionellen Kontrolle unterzogen werden und die eine redaktionell verantwortliche Person benennen.
• KI-Bearbeitungen, die einen menschlich verfassten Text nur geringfügig ändern (z.B. Rechtschreibprüfung)
• Einfache Bildbearbeitung, wie z.B. die Entfernung von Rauschen, sowie offensichtlich fantastische Darstellungen

3. KI direkt mit Menschen interagiert.
User:innen von Chatbots/virtuellen Assistent:innen müssen gleich zu Beginn der Interaktion darüber informiert werden, dass sie mit einer KI kommunizieren.

Beispiele:

• Ein virtueller KI-Charakter beantwortet Fragen zu einer Ausstellung – etwa eine historische Person, mit der Besucher:innen chatten können.
• Besucher:innen können mit einer KI über ein Objekt sprechen: „Was weißt du über dieses Objekt?“

Wichtig: KI-generiert ≠ digitalisiert
Das ist gerade für Museen ein wichtiger Unterschied:

• Digitalisierung: Ein handgeschriebener Brief wird eingescannt oder fotografiert → kein synthetisch generierter Inhalt. 
• KI-Transkription: KI wandelt die Handschrift in maschinenschriftlichen Text um → KI-gestützte Verarbeitung, aber der ursprüngliche Inhalt stammt vom Menschen. 
• KI-generierter Inhalt: KI schreibt ausgehend von historischen Informationen einen neuen, fiktiven Brief, der so nie existiert hat → synthetisch generierter Inhalt. 

Richtig kennzeichnen
Für ein Museum ist bei der Kennzeichnung möglichst genau zu unterscheiden zwischen „KI-gestützt digitalisiert“, „KI-bearbeitet“ und „KI-generiert“. Gerade bei historischen Inhalten sollte für Besucher:innen klar erkennbar sein, was eine originale Quelle und was eine künstlich erzeugte Darstellung ist.

Vorlagen und Unterlagen zu Ihrer Verwendung
Der Museumsbund Österreich hat gemeinsam mit den Landesmuseen sehr praxisorientierte Unterlagen zum Arbeiten mit KI erstellt. Damit können Sie sich mit dem Umgang mit der KI in Ihrer Institution befassen und Regelungen festlegen. 

1. Empfehlung zur Erstellung von institutionellen KI-Richtlinien
   Inhalte: Wo macht es Sinn KI im Museum einzusetzen; Gedanken zu Ethik, Vielfalt, Inklusion und Nachhaltigkeit; ein Glossar, das die wichtigsten Begriffe erklärt, u.v.m.
   Download (PDF, 446,67 KB)
2. Blueprint (Vorlage) zur Umsetzung der geltenden Kennzeichnungspflicht gemäß EU-KI-Verordnung (AI Act)
   mit Beispielen, Tipps zur Kennzeichnung etc.
   Download (PDF, 1,75 MB)
3. ICON zur Kennzeichnung
   Zusätzlich entwickelte Andreas Pirchner, The Void, mit dem Museumsbund Österreich ein Icon für die Kennzeichung . Dies kann als Alternative für die seitens der EU vorgeschlagene Kennzeichnung verwendet werden kann.
   Download Icons in Farbe und Schwarz-Weiß, im Hoch- und Querformat sowie animiert und nicht animiert, auf Deutsch und Englisch.

Herzlichen Dank an Sabine Fauland vom Museumsbund Österreich für die Zusammenstellung der Empfehlungen und Vorlagen speziell für den Museumsbereich!