K\u00fcnstliche Intelligenz entwickelt sich rasant und mit ihr die Sorge um Sicherheit, Fairness und den Schutz der Grundrechte. Als Antwort darauf hat die Europ\u00e4ische Union den EU AI Act verabschiedet \u2013 den weltweit ersten umfassenden Rechtsrahmen f\u00fcr K\u00fcnstliche Intelligenz (KI). Sein Anspruch ist klar: sicherzustellen, dass in Europa eingesetzte KI-Systeme sicher, vertrauensw\u00fcrdig und mit zentralen europ\u00e4ischen Werten vereinbar sind. <\/p>\n\n
Doch obwohl der AI Act starke und notwendige Verpflichtungen formuliert, stehen viele Organisationen vor einem praktischen Dilemma: Wie lassen sich abstrakte Prinzipien \u2013 wie W\u00fcrde, Autonomie oder Fairness \u2013 in konkrete Designentscheidungen w\u00e4hrend der Systementwicklung \u00fcbersetzen?<\/strong><\/p>\n\n Genau hier setzt Value-Based Engineering (VBE) an. Basierend auf dem IEEE-7000-Standard bietet VBE eine strukturierte und praxisnahe Methodik, um ethische \u00dcberlegungen systematisch in technische Entwicklungsprozesse zu integrieren. Teams erhalten Werkzeuge, um Stakeholder-Werte zu identifizieren, ethische Risiken zu bewerten und diese Erkenntnisse in umsetzbare technische Anforderungen zu \u00fcberf\u00fchren. <\/p>\n\n Vor diesem Hintergrund untersuchen Lukas Madl, Soner Bargu und Mert Cuhadaroglu von Innovethic<\/a> in ihrem Paper \u201eBridging Ethics and Regulation: How VBE Facilitates Compliance with the EU AI Act in High-Risk and General Purpose AI<\/a><\/em>\u201c genau diese Fragestellung. Der Beitrag ist im Open-Access-Band „Digital Humanism“<\/a> bei Springer erschienen \u2013 einer Sammlung begutachteter Texte \u00fcber das Zusammenspiel von digitalen Technologien, Ethik, Recht, Gesellschaft und interdisziplin\u00e4rer Forschung. Dieser Blogbeitrag fasst die Kernerkenntnisse des Papers zusammen und zeigt, was sie f\u00fcr Organisationen bedeuten, die vertrauensw\u00fcrdige und rechtskonforme KI-Systeme entwickeln wollen. <\/p>\n\n Der AI Act teilt KI-Systeme in vier Risikokategorien ein: minimal, begrenzt, hoch und inakzeptabel. F\u00fcr Hochrisikosysteme gelten die strengsten Anforderungen \u2013 etwa zu Risikomanagement, Qualit\u00e4tsmanagement, Daten-Governance, menschlicher Aufsicht, Transparenz und Dokumentation. <\/p>\n\n Das Paper weist jedoch auf mehrere praktische Herausforderungen hin:<\/p>\n\n Insbesondere die in Anhang III gelisteten Anwendungen bilden praktische KI-Risiken nicht immer pr\u00e4zise ab. Das gilt besonders f\u00fcr General Purpose AI (GPAI), die vielseitig einsetzbar ist \u2013 sowohl zum Nutzen als auch zum Schaden. Die Konformit\u00e4tsbewertung soll auf technischen Standards von CEN\/CENELEC aufbauen. Viele dieser Standards existieren jedoch noch nicht. Organisationen wissen daher oft nicht, wie \u201eCompliance\u201c praktisch aussieht \u2013 insbesondere beim Schutz der Grundrechte. <\/p>\n\n Die Dynamik im KI-Bereich \u00fcberholt die Regulierung regelm\u00e4\u00dfig. Zwar kann die EU einzelne Teile des Gesetzes per delegiertem Rechtsakt aktualisieren, doch praxisnahe Leitlinien hinken der Realit\u00e4t oft hinterher. Organisationen brauchen deshalb strukturierte Methoden, die vertrauensw\u00fcrdige KI erm\u00f6glichen \u2013 selbst wenn Standards und Leitlinien sich noch entwickeln.<\/p>\n\n Value-Based Engineering ist ein systematisches, lebenszyklusorientiertes Framework, um menschliche Werte \u00fcber den gesamten Entwicklungsprozess hinweg zu identifizieren, zu analysieren und in Designentscheidungen einzubetten. Es umfasst unter Anderem: Concept & Context Exploration, Ethical Values Elicitation, Value-Based Design and Verification. Das Paper zeigt, dass VBE die Anforderungen des EU AI Act nicht nur gut erg\u00e4nzt, sondern in vielen Bereichen dar\u00fcber hinausgeht, indem es operative Schritte liefert, wo der Act nur Prinzipien formuliert. VBE verlangt die Identifikation ethischer Risiken, die Bewertung von Wahrscheinlichkeit und Auswirkung, das Design von Ma\u00dfnahmen und die Pr\u00fcfung des Restrisikos \u2013 ein klarer Spiegel der Anforderungen an Hochrisiko-KI.<\/p>\n\n VBE integriert sich nahtlos in bestehende QMS-Strukturen, indem es Ethical Value Requirements (EVRs) einf\u00fchrt: nachvollziehbare und testbare Anforderungen, die aus Stakeholder-Werten abgeleitet werden. VBE deckt durch Stakeholder-Analyse und Werteexploration automatisch Risiken hinsichtlich W\u00fcrde, Autonomie, Privatsph\u00e4re, Gleichstellung und Fairness auf. Diese Erkenntnisse k\u00f6nnen direkt zur Erf\u00fcllung der FRIA-Pflicht (Fundamental Rights Impact Assessment) f\u00fcr Hochrisiko-KI genutzt werden. <\/p>\n\n Das Paper beschreibt vier Gr\u00fcnde, warum VBE nicht nur konformit\u00e4tsf\u00f6rdernd wirkt, sondern auch den Geist des EU AI Act unterst\u00fctzt.<\/p>\n\n Statische Checklisten wie \u201eFairness\u201c oder \u201eTransparenz\u201c sind zu allgemein und werden leicht falsch angewendet. VBE verlangt die ethische Ausdifferenzierung von Werten (z. B. W\u00fcrde, Autonomie) sowie die Einbeziehung von Stakeholder-Erfahrungen. Der tragische Fall eines Teenagers, der durch einen emotional manipulativen Chatbot zu Schaden kam, verdeutlicht, was passiert, wenn psychologische Sicherheit und Vulnerabilit\u00e4t nicht ber\u00fccksichtigt werden. Solche Risiken werden durch eine Werteanalyse sichtbar \u2013 nicht erst nach der Markteinf\u00fchrung. <\/p>\n\n Die \u00dcbersetzung abstrakter Werte in testbare Anforderungen ist eine der gr\u00f6\u00dften Herausforderungen in der KI-Entwicklung. VBE l\u00f6st dies mittels: Value Qualities, Ethical Value Requirements (EVRs) und nachverfolgbaren Designentscheidungen<\/p>\n\n So entsteht ein klarer, reproduzierbarer Weg, Ethik in technische Entscheidungen zu integrieren.<\/p>\n\n Vertrauensw\u00fcrdige KI erfordert echte Auseinandersetzung mit den Betroffenen.Was der EU AI Act verlangt \u2013 und warum das herausfordernd ist<\/strong><\/h2>\n\n
1. Komplexe Risikoklassifikation<\/strong><\/h3>\n\n
2. Fehlende harmonisierte Standards<\/strong><\/h3>\n\n
3. Rasante technologische Weiterentwicklung<\/h3>\n\n
Wie VBE den EU AI Act erg\u00e4nzt<\/strong><\/h2>\n\n
1. Risikomanagement (Artikel 9)<\/strong><\/h3>\n\n
2. Qualit\u00e4tsmanagement (Artikel 17)<\/h3>\n\n
3. Grundrechts-Folgenabsch\u00e4tzung (Artikel 27)<\/h3>\n\n
Warum VBE sowohl ethische als auch regulatorische Compliance st\u00e4rkt<\/strong><\/h2>\n\n
1. Mehr als Prinzipien-Checklisten<\/strong><\/h3>\n\n
2. Tiefes Kontextverst\u00e4ndnis<\/strong><\/h3>\n\n
3. Strukturierte Wertidentifikation und \u00dcbersetzung in Technik<\/strong><\/h3>\n\n
4. Fr\u00fchzeitige und kontinuierliche Stakeholder-Einbindung<\/strong><\/h3>\n\n
Fazit<\/strong><\/h2>\n\n