Zuverlässige, rechtkonforme KI mit dem TRUSTED AI Anforderungskatalog
Autonome Maschinen und Fahrzeuge haben das Potential, die Industrie und das Transportwesen zu revolutionieren - doch die Integration von ML-basierter Autonomie in stark beanspruchte Maschinen in einer heterogenen Betriebsumgebung bringt oft übersehene Herausforderungen mit sich.
Für den sicheren Betrieb autonomer Maschinen spielt die Auswertung von Daten aus Kameras, Lidar- und Radarsensoren eine unverzichtbare Rolle um auf unvorhergesehene Hindernisse, Annäherung von Personen und Änderungen der Umwelt reagieren zu können. Die verwendeten Computer Vision Systeme müssen höchste Anforderungen an die Zuverlässigkeit erfüllen – insbesondere, wenn funktionale Sicherheit eine Rolle spielt und auf Funktionen auch bei gealterten oder verschmutzten Sensoren sowie widrigen Wetterbedingungen Verlass sein muss.
Eine häufig gestellte Frage vor diesem Hintergrund ist - wie müssen KI-Systeme entwickelt und ausgelegt werden, um in komplexen Umgebungen zuverlässig zu funktionieren? Die Antwort hat unserer Ansicht nach zwei Aspekte: Zunächst ist ähnlich wie in der funktionalen Sicherheit ein robuster Entwicklungs- und Verifikationsprozess notwendig, um die Definition der Problemstellung, das Sammeln von Daten, das Training und die Vermeidung von systematischen Fehlern koordiniert in Angriff zu nehmen. Des weiteren ergeben sich produktbezogene Anforderungen an die implementierte Lösung - hierfür sind qualitative und quantitative Analysen des KI-Systems hinsichtlich der Einhaltung anwendungsspezifischer Zielwerte erforderlich.
Beides findet sich in unserem TRUSTED AI – Anforderungskatalog, einer laufend aktualisierten Zusammenstellung von Best Practice-Anforderungen und Erkenntnissen aus der Forschung, Industrieprojekten und der Standardisierung. Diese Anforderungen werden auf Basis einer Zusammenarbeit von TÜV Austria, Data Science- und Software Science Experten vom Software Competence Center Hagenberg sowie KI-Forschern am Machine Learning Institut der JKU zusammengestellt, um Unternehmen den nötigen Rahmen zu vermitteln damit diese selbst zuverlässige KI entwickeln können. Eine Zertifizierung nach dem exklusiv von TRUSTIFAI verwendeten TRUSTED AI Zertifizierungsschema kann beim TÜV Austria durchgeführt werden, um unabhängige und objektive Nachweise über die Zuverlässigkeit von KI-Lösungen zu ermöglichen.
Unser Team unterstützt Sie gerne bei der Definition ihrer Entwicklungsprozesse, bei der Identifikation von Anforderungen an anspruchsvolle KI-Projekte im sicherheitskritischen Bereich oder bei der Vorbereitung auf den AI Act.