Künstliche Intelligenz eröffnet Unternehmen neue Möglichkeiten, bringt aber auch erhebliche Herausforderungen für Datenschutz, IT-Sicherheit und gesellschaftliche Verantwortung mit sich. Beim 33. IT-Leitertreffen Hochfranken am 12. November am Institut für Informationssysteme (iisys) der Hochschule Hof standen deshalb die Risiken generativer KI und die Voraussetzungen für ihren vertrauenswürdigen Einsatz im Mittelpunkt. Zwei Fachvorträge beleuchteten unterschiedliche Perspektiven auf eine Technologie, die Wirtschaft und Gesellschaft zunehmend verändert.

Unter dem Titel „Beichtstuhl trifft Röntgenbild: Warum KI Vertrauen braucht“ zeigte Ekkehard Schmider von AI Governance Pro anhand zweier Praxisbeispiele, worauf es beim verantwortungsvollen Einsatz von Künstlicher Intelligenz ankommt. Im Mittelpunkt standen der Schutz sensibler Daten, die frühzeitige Erkennung von Sicherheitsrisiken und die Schaffung von Vertrauen durch klare Verantwortlichkeiten. Gerade dort, wo KI mit vertraulichen Informationen arbeitet, sind verbindliche Regeln und wirksame Kontrollmechanismen unverzichtbar. Anhand konkreter Erfahrungen verdeutlichte Schmider zudem, wie wichtig eine hohe Datenqualität und ein vorausschauendes Risikomanagement sind. Menschliche Entscheidungen und Kontrollen sollten dabei weiterhin eine zentrale Rolle spielen.
Wie gefährlich ist generative KI wirklich?
Prof. Dr. René Peinl vom Institut für Informationssysteme der Hochschule Hof (iisys) nahm anschließend mit seinem Vortrag „Wird KI uns alle umbringen? Realistische Risiken generativer KI“ mögliche Gefahren der rasanten technologischen Entwicklung in den Blick. Dabei ging es um eine sachliche Bewertung unterschiedlicher Risikoszenarien. Peinl betonte insbesondere die Bedeutung einer systematischen Risikobewertung, bei der sowohl die Eintrittswahrscheinlichkeit als auch das mögliche Schadensausmaß berücksichtigt werden. Zudem unterschied er zwischen Risiken, die einzelne Unternehmen unmittelbar betreffen, und solchen, die auf Landesebene gesamtgesellschaftliche Auswirkungen haben können.
Austausch zwischen Wirtschaft und Wissenschaft
Die beiden Vorträge lieferten unterschiedliche, sich ergänzende Perspektiven auf den Umgang mit Künstlicher Intelligenz. Beim anschließenden Get-together nutzten die Teilnehmenden die Gelegenheit, die Themen zu vertiefen, Erfahrungen auszutauschen und neue Kontakte zu knüpfen.
Das IT-Leitertreffen Hochfranken bietet IT-Verantwortlichen aus der Region regelmäßig eine Plattform, um aktuelle technologische Entwicklungen zu diskutieren und den Austausch zwischen Wissenschaft und Wirtschaft zu fördern.