   | | Künstliche Intelligenz | | Ausgabe #3 I Lesezeit 18 min I August 2022
|
|
|
|
|
|
| | Guten Tag,
|
| wir freuen uns, Ihnen hiermit die dritte Ausgabe des Digitalisierungs-Newsletters präsentieren zu dürfen. Das Thema der aktuellen Ausgabe lautet Künstliche Intelligenz.
Künstliche Intelligenz (KI), im englischen Artificial Intelligence (AI), gehört zu den vielversprechendsten Technologie-Zweigen des digitalen Wandels. Sie bietet große Chancen für Gesellschaft und Industrie, wobei der hiervon ausgehende gesellschaftliche Wandel heute noch nicht vollumfänglich abzusehen ist.
Wo begegnet uns KI heute? Gibt es betreffende Regulierungen? Und was hat Normung mit KI zu tun? Neben der Klärung dieser und weiterer Fragen wollen wir auch Beispiele und aktuelle Trends aus dem Bereich einbeziehen. Am Ende des Newsletters finden Sie wie gewohnt unsere Hausmitteilungen sowie weiterführende Links. Wie immer ist der Newsletter mit zahlreichen Querverweisen versehen, die Sie per Klick aufrufen können.
|
| Wir wünschen Ihnen viel Freude beim Lesen!
| 
|
Michaela Hildebrandt
| Projektmanagerin Digitalisierung
| |
| |
|
|
|
|
| | Künstliche Intelligenz: eine Annäherung | | Vermutlich ist jeder bereits über den Begriff Künstliche Intelligenz gestolpert. Aber was verbirgt sich dahinter?
Künstliche Intelligenz ist ein Teilgebiet der Informatik. Vereinfacht gesagt, geht es typischerweise darum, dem Computer Aufgaben beizubringen, die traditionell dem Menschen vorbehalten sind. Ist die Algorithmik für ein Anwendungsszenario ausgereift, ergibt sich in der Praxis oft eine Überlegenheit des Computers gegenüber dem Menschen, da die Rechenleistung und Speicherkapazität die des menschlichen Gehirns übersteigt.
Ein häufiges Anwendungsbeispiel ist das Erkennen von Gesichtern. Menschen sind sehr gut darin, Gesichter von anderen Menschen in Bildern zu identifizieren und die abgebildeten Personen darin wiederzuerkennen. Computer konnten traditionell Bilder mit Gesichtern abspeichern und anzeigen, wussten aber nichts über das, was im Bild dargestellt ist. Das Problem der Gesichtserkennung ist jedoch heute aus technischer Sicht gelöst. Computer erkennen, ob ein oder mehrere Gesichter in einem Bild enthalten sind (face perception) und auch, um welche Menschen es sich handelt (facial recognition). Ein Informationssystem, das entsprechend aufgestellt ist, kann heute deutlich performanter Menschen in Aufnahmen von Überwachungskameras erfassen als dies Menschen möglich wäre. In Ländern wie China, in denen dies rechtlich möglich ist, findet diese Technik großflächig Anwendung.
(Quelle: IKS Fraunhofer;BSI)
|
|
|
|
|
|
|
| | Grundlagen der KI | | Bis heute gibt es keine einheitliche KI Definition. Die verschiedenen Begriffsinterpretationen haben sich im Lauf der Zeit an die technische Entwicklung angepasst. Zusammenfassend lässt sich sagen, dass KI ein Sammelbegriff und Marketingschlagwort für intelligente IT-Systeme unter Nutzung maschineller Lernverfahren ist. KI versucht menschliches Denken und menschenähnliche Verhaltensweisen mit Hilfe digitaler Technologien nachzubilden. KI-Systeme benötigen meist große Datenmengen, um zuverlässig arbeiten zu können. Beispielsweise funktioniert Gesichtserkennung nur dann präzise und zuverlässig, wenn sie mit vielen und vielfältigen Gesichtsbildern trainiert und getestet wird. Auch für medizinische Diagnosen mittels KI ist es wichtig, auf einen großen Datenpool zugreifen zu können. Im Folgenden ist eine aus Verbrauchersicht zutreffende Definitionen aufgeführt.
„Künstliche Intelligenz beschreibt Systeme, die intelligentes Verhalten dadurch zeigen, dass sie – mit einem gewissen Grad an Autonomie – ihre Umgebung analysieren und entsprechend agieren, um spezifische Ziele zu erreichen.“ (Quelle: Europäische Kommission)
KI kann rein softwarebasiert sein und entsprechend ausschließlich in der digitalen Welt ausgeführt werden, wie z.B. bei Sprachassistenten, Bildanalysesoftware, Suchmaschinen, Sprach- und Gesichtserkennungssystemen. Jedoch besteht auch die Option der Einbettung von KI in Hardwaregeräte, wie z.B. autonome Fahrzeuge, Drohnen, Internet-of-Things-Anwendungen oder Roboter.
Allgemein unterscheidet man zwischen schwacher und starker KI. Schwache KI löst ein vorgegebenes, abgegrenztes Problem durch sich selbstoptimierende Algorithmen. Eine typische Anwendung in diesem Bereich ist das sogenannte maschinelle Lernen (machine learning). Maschinelles Lernen ist eine Form der Künstlichen Intelligenz, die es Systemen ermöglicht, Muster in Daten zu erkennen und daraus Verbesserungen abzuleiten. Die Algorithmen optimieren sich dabei selbst, indem sie große Mengen neuer Daten analysieren und bewerten. Der Computer kann so eigenständige Lösungen für Probleme finden. Das maschinelle Lernen hat vielfältige Anwendungsgebiete, wie Bilderkennung, Spracherkennung, Mustererkennung oder auch Prozessoptimierung. Beispiele sind das Brettspielprogramm "AlphaGo" von Google, Netflix‘ Algorithmus zur Filmauswahl. Ein weiterer Begriff, der in diesem Zusammenhang oft genannt wird, ist das tiefgehende Lernen (deep learning). Hierbei handelt es sich um eine Spezialform des maschinellen Lernens. Die Technologie arbeitet mit künstlichen neuronalen Netzwerken, die an die Struktur und Funktion des Gehirns angelehnt sind. Starke KI hätte vergleichbare intellektuelle Fertigkeiten wie der Mensch oder überträfe ihn darin. Es ist umstritten, inwiefern und wann dieser Stand erreicht werden kann.
(Quelle: BMZ; BSI; IKS Fraunhofer; BMWi )
|
|
|
|
|
|
|
| | Schnelle Zahlen und Fakten | | 1966 wurde der erste Chatbot der Welt, mit dem Namen ELIZA, vom deutsch-amerikanischen Informatiker Joseph Weizenbaum entwickelt. ELIZA simuliert eine Art Psychotherapeuten und verwendet für die Kommunikation einen Thesaurus. Mit dem Chatbot kann auch heute noch kommuniziert werden. Probieren Sie es gern aus! (Quelle: bundesregierung.de)
220 Universitätsprofessor*innen sind in Deutschland im Bereich KI tätig, damit hat fast jede deutsche Universität mindestens eine*n KI-Professor*in. KI gehört seit Jahrzehnten zum festen Bestandteil der Informatik. Universitäre KI-Lehrstühle beschäftigen insgesamt ca. 1.800 Mitarbeitende. (Quelle: bitkom.com)
1 Mrd. EUR will die Europäische Kommission jährlich aus ihren Programmen „Digitales Europa“ und „Horizont Europa“ in KI investieren. (Quelle: Europäische Kommission)
1995 fuhr das erste autonome Fahrzeug, entwickelt von Ernst Dickmanns, weitgehend selbstständig von München nach Dänemark. Die längste rein autonom gefahrene Teilstrecke betrug 158 Kilometer und die erreichte Höchstgeschwindigkeit war 175 km/h. (Quelle: Süddeutsche)
375 Millionen Menschen werden bis 2030 voraussichtlich ihren Beruf wechseln müssen. KI-Technologien könnten etwa 800 Millionen Arbeitsplätze ersetzen, wodurch 30 % der Berufe aussterben würden. (Quelle: McKinsey)
Deutlich mehr als 5 KI Technologien sind in einem Smartphone integriert. Viele dieser Technologien sind dem Nutzer nicht bewusst. Dazu zählen z.B. Navigation, Übersetzung, Sprachsteuerung, Gesichtserkennung. (Quelle: Frauenhofer)
|
|
|
|
|
|
|
| | KI: Eine Zeitleiste | | 1950: Alles beginnt mit dem Turing-Test: Mensch oder Maschine?
Der britische Mathematiker Alan Turing entwickelte ein Verfahren, bei dem sich eine Versuchsperson mit zwei unbekannten Gesprächspartnern in einer Art Chat austauscht. Danach muss sie entscheiden, welcher davon der Computer ist. Der Test gilt als bestanden, wenn mindestens 30% der Testpersonen den Computer nicht entlarven. Bis heute wird der so genannte Turing-Test angewandt.
Zusatzinfo: Der Apple-Co-Gründer Steve Wozniak schlug später als Alternativtest vor, einem Roboter den Auftrag zu erteilen, in einem beliebigen Haushalt die Zutaten für einen Kaffee zu finden, diesen zu zubereiten und zu servieren. Das erfordere viele verschiedene Fähigkeiten.
1951: Erster Neurocomputer: Weg aus dem Labyrinth
Nur 40 Synapsen hatte der erste Neurocomputer SNARC (Stochastic Neural Analog Reinforcement Computer) des amerikanischen Mathematikers Marvin Minsky. Die Maschine simulierte das Verhalten von Laborratten und konnte den schnellsten Weg aus einem Labyrinth finden.
1956: Geburtsstunde des Begriffs KI
Eine wissenschaftliche Konferenz am Dartmouth College in Hanover, New Hampshire, gilt als Geburtsstunde der KI als eigenständige Forschungsdisziplin. Der Informatiker John McCarthy verwendete in seinem Antrag erstmals den Begriff Artificial Intelligence.
1966: Der erste Chatbot ELIZA
Der deutsch-amerikanische Informatiker Joseph Weizenbaum entwickelt ein Computerprogramm, das vorgibt, ein Psychotherapeut zu sein. Es reagiert auf Schlüsselworte und antwortet häufig mit Fragen oder allgemeinen Phrasen.
1979: Erstes Spieleprogramm schlägt Weltmeister in Backgammon
Der deutsch-amerikanische Informatiker Hans Berliner entwickelt ein Backgammon-Programm, das den damaligen Weltmeister Luigi Villa aus Italien schlägt.
1997: Schachduell: Maschine gegen Mensch
Der Computer Deep Blue gewinnt gegen den damaligen russischen Schachweltmeister Garri Kasparow. Ein Jahr zuvor ging das Duell noch andersrum aus. In der Zwischenzeit hatte der Hersteller IBM seinen Computer mit besserer Hardware ausgerüstet und so leistungsfähiger gemacht.
2011: Sprachassistent Siri: Ein persönlicher Assistent für jeden!
Die Software von Apple erkennt natürliche Sprache und antwortet darauf. Zu Beginn verstand Siri lediglich Englisch, Deutsch und Französisch. Inzwischen sind es mehr als 20 Sprachen.
2016: Chinesisches Brettspiel Go: AlphaGo gegen Lee Sedol
Die Deepmind-Software AlphaGo von Google besiegt den südkoreanischen Ausnahmespieler Lee Sedol mit 4:1. Die Software ist lernfähig und kennt nicht nur alte Partien, sondern erfindet auch während des Duells immer neue Lösungen.
2017: Selbstfahrende Autos
In Phoenix (Arizona) testet ein Tochterunternehmen von Google einen Taxidienst unter anderem mit selbstfahrenden Autos. 2015 wurden die Tests auf Texas ausgeweitet, da hier kein Gesetz Autos ohne Pedale und Lenkrad verbietet.
2021: EU Entwurf zum Artificial Intelligence Act (AI Act)
Der weltweit erste Vorschlag zur Regulierung von KI wird von der Europäischen Kommission vorgestellt. Weitere Informationen finden sich im Abschnitt KI Rechtsrahmen.
(Quelle: National Geographic; Bundesregierung;Süddeutsche Zeitung)
|
|
|
|
|
|
|
| | KI Rechtsrahmen | | Die Europäische Kommission hat im April 2021 einen Vorschlag für den weltweit ersten dediziert auf KI ausgerichteten Rechtsrahmen vorgelegt. Der sogenannte Artificial Intelligence Act (AI Act) soll KI im europäischen Raum einheitlich regulieren. So soll sichergestellt werden, dass KI-Systeme, die in der EU verwendet werden, sicher, transparent, ethisch, unparteiisch und unter menschlicher Kontrolle sind. DIN und DKE haben in diesem Rahmen die Argumente der Normung mit Hilfe eines Positionspapiers in die Debatte des AI Acts eingebracht.
Der AI Act folgt einem risikobasierten Ansatz und unterscheidet zwischen KI-Anwendungen mit inakzeptablem Risiko (Verwendungsverbot), hohem Risiko und geringem bzw. minimalen Risiko. Im Folgenden eine kurz gehaltene Einteilung der Risikostufen:
|
|  | Risikofreie KI-Systeme werden nicht reguliert: Wenn lediglich ein minimales oder kein Risiko für die Bürgerrechte oder die Sicherheit bestehen (z.B. Spamfilter) |
| Anwendungen mit geringem Risiko müssen bestimmte Transparenzanforderungen erfüllen (z.B. Chatbots, hier sollte für die Nutzer*innen erkennbar sein, dass es sich um ein automatisiertes Dialogsystem handelt) |
| Für Anwendungen mit einem hohen Risiko sind stringente Regularien vorgesehen und notwendig. Zu den Regularien gehören u.a. Risikobewertungs- und Risikominimierungssysteme, eine ausführliche Dokumentation und klare und angemessene Informationen für die Nutzer*innen |
| gefährliche KI-Anwendungen werden gänzlich verboten: Dies umfasst Anwendungen, die eine klare Bedrohung für die Sicherheit, die Lebensgrundlagen und die Rechte der Menschen sind (z.B. Social Scoring; Spielzeug mit Sprachassistenten, das Minderjährige zu gefährlichem Verhalten ermuntert) |
|
| Ausführlichere und weitergehende Informationen finden Sie auf der Webseite der Europäischen Kommission.
Eine etwas differenziertere risikoadaptierte Bewertung von KI-Anwendungen wird von der Datenethikkommission der Bundesregierung vorgeschlagen. Die dort enthaltene Kritikalitätspyramide nimmt eine Risikoeinstufung in 5 möglichen Klassen vor. Die Anforderungen an die KI-Anwendungen erhöhen sich mit zunehmender Kritikalitätsstufe.
Generell muss für alle KI-Anwendungen der Datenschutz und die Privatsphäre der vom Verbraucher genutzten Technologien jederzeit gewährleistet werden. Grundsätzlich sind beispielsweise die Datenschutz-Grundverordnung (DSGVO) und das Bundesdatenschutzgesetz (BDSG) einzuhalten.
(Quelle: Europäische Kommission; DIN; Datenethikkommission)
|
|
|
|
|
|
|
| | Wussten sie schon, dass... | | …28% der Verbraucher*innen bereits eine Veränderung unserer Gesellschaft aufgrund von KI spüren?
|
| Weiterhin gehen 26% laut einer Bitkom Studie von 2021 davon aus, dass sich eine tiefgreifende Veränderung binnen 10 Jahren vollziehen wird. Nur 1% ist der Meinung, dass KI auch in ferner Zukunft keine Auswirkungen auf die Gesellschaft haben wird. (Quelle: Bitkom)
|
| …Deutschland 5 Mrd. Euro bis 2025 für verschiedene KI-Projekte bereitstellt?
|
| Diese Summe verteilt sich auf Projekte aus Wissenschaft und Forschung sowie für Start-ups und Unternehmen. Die USA förderten dagegen im Jahr 2016 KI-Projekte mit 445 Mrd. Euro. Hierbei wurden 15% von der Regierung und 62% aus der Privatwirtschaft bereitgestellt. (Quelle: elektroniknet.de)
|
| …38% der Verbraucher*innen weltweit den Einsatz von Chatbots positiv bewerten?
|
| Dies ergab eine Umfrage unter 5.000 Verbraucher*innen in sechs Ländern. Besonders häufig werden Chatbots im Kundenservice eingesetzt, wobei 67% der Befragten diesen benutzen. (Quelle: Business Insider)
|
| …45% der Deutschen digitale Sprachassistenten als App auf dem Smartphone oder auch als intelligente Lautsprecher nutzen?
|
| Im Jahr 2019 waren es erst 32%. Dies besagt die repräsentative Digitalstudie 2020 der Postbank. Demnach benutzen auch immer mehr Menschen ab 40 Jahren die Sprachassistenten Siri, Alexa und Co. (Quelle: Postbank)
|
| …der weltweite Umsatz im Bereich KI auf 31,2 Milliarden US-Dollar prognostiziert wird?
|
| Die weltweiten Umsätze mit Unternehmensanwendungen im Bereich Künstliche Intelligenz wurden für das Jahr 2025 auf rund 31,2 Milliarden US-Dollar prognostiziert. (Quelle: statista)
|
| …40% der Deutschen sich eher skeptisch gegenüber KI im weltweiten Vergleich positionieren?
|
| Im asiatischen Raum haben nur 9-22% eine kritische Haltung gegenüber KI-Technologien. Dies ergab eine Studie von YouGov (2021), bei der Verbraucher*innen aus 17 Märkten befragt wurden. In Deutschland bestehen eine zurückhaltende Meinung und geringere Akzeptanz zu Künstlicher Intelligenz. Außerdem sind 34% der befragten Deutschen der Meinung, dass KI negative Auswirkungen auf die Gesellschaft haben wird, die wir heute noch nicht voraussehen können. Im Vergleich sind weltweit nur 28% der Menschen dieser Ansicht. (Quelle: IT-Business)
|
|
|
|
|
|
|
| | Anwendungen und Trends | | In diesem Abschnitt wollen wir darauf eingehen, wo KI heute Einsatz findet und in welchen Szenarien ihr Einsatz zukünftig denkbar wäre. Im Folgenden finden Sie eine subjektive Auswahl.
Personalisierung von Inhalten
Social Media Plattformen wie Instagram, Facebook oder Twitter personalisieren den News-Feed (Neuigkeiten-Ansicht) mit Hilfe von bisherigen Verhaltensmustern (z.B. Likes, besuchte Seiten usw.) der Nutzer*innen. Künstliche Intelligenz kann ebenfalls zur Bekämpfung von Cybermobbing auf Social Media Plattformen eingesetzt werden und gewaltverherrlichende, pornografische oder extrempolitische Inhalte identifizieren. Sobald beispielsweise beleidigende Kommentare erkannt wurden, werden diese gelöscht. Diese KI Technologie soll auch auf Bilder und Videos ausgeweitet werden.
Die Streamingdienste Netflix, Amazon Prime, Spotify und Co nutzen ebenfalls KI, u.a. um Filme, Fernsehserien und Musik per Empfehlung vorzuschlagen. Die Systeme sind in hohem Maß personalisiert, d.h. Empfehlungen sind von vergangenen angesehenen Inhalten der jeweiligen Nutzer*innen abgeleitet. Dabei ist nicht nur die Reihenfolge der angezeigten Filme und Serien personalisiert, sondern beispielsweise auch das dazu angezeigte Bild. Mit Hilfe von KI teilt Netflix seine Abonnenten in mehr als 2.000 Taste Communities, also Gruppen mit demselben Geschmack, auf. Laut Netflix werden 80 % der Serien und Filme aufgrund der angezeigten Empfehlung angeschaut. Selbst wenn nicht der Geschmack der Nutzer*innen getroffen wird, lernt das KI-System daraus und wird beim nächsten Mal eine treffsicherere Liste zusammenstellen.
(Quelle: McKinsey; Stern.de; Business Insider)
Roboter mit Künstlicher Intelligenz
Mit dem Begriff Künstliche Intelligenz bringen viele einen Roboter, oft in menschenähnlicher Gestalt, in Verbindung. Ein Beispiel dafür ist auch auf dem Titelbild unserer Newsletter-Reihe zu sehen. An dieser Stelle sei festgehalten, dass Roboter meistens nicht so aussehen, sondern ihr Aussehen an ihre jeweiligen Aufgaben angepasst ist. Auch autonome Fahrzeuge, ein Roboterarm in der Automobilindustrie oder autonome Drohnen sind Roboter. Es gibt zudem auch Roboter, die keine KI in sich tragen und einfach Maschinen sind, die automatisierte Tätigkeiten verrichten. Nicht nur in der Industrie kommen KI-Roboter zum Einsatz, auch Staubsauger-Roboter oder Intelligentes Spielzeug gehören dazu. Ein gespeicherter Lageplan ermöglicht es dem Roboter sich zwischen verschiedenen Standorten hin und her zu bewegen. Künstliche Intelligenz kommt hier potentiell zum Einsatz, sobald mehrere Handlungsalternativen zur Verfügung stehen und der Roboter entscheiden und planen muss. Zukünftige Anwendungsgebiete sind beispielsweise in der Pflege, der Heimarbeit oder im Bereich der Unterhaltungselektronik (z.B. Gaming) möglich.
(Quelle: MDR.de; WiWo.de)
Chat-Bots & Social-Bots
Der Begriff Bot lässt sich vom englischen Begriff robot (Deutsch: Roboter) ableiten. Es kann dabei je nach Einsatzgebiet zwischen Chatbots und Socialbots unterschieden werden. Ein Chatbot ist eine Anwendung, die mithilfe Künstlicher Intelligenz einen Gesprächspartner imitiert und sich mit Menschen unterhält. Ihre Einsatzgebiete sind oft dort, wo Fragen automatisiert beantwortet oder kommentiert werden. Unternehmen setzen diese Art von Bots in der Kundenkommunikation (d.h. im Customer Service) oft als erste Anlaufstelle ein. Auch in Newsportalen, wie beispielsweise bei dem der Tagesschau wurden schon Bots zum Chatten über aktuelle Themen eingesetzt. Der Chatbot der Tagesschau wurde 2019 durch Messenger Apps (Facebook, Telegram) ersetzt, die über aktuelle Nachrichten berichten. Die Verbraucher*innen sind sich nicht immer darüber bewusst, dass sie sich mit einer KI-Anwendung unterhalten und nicht mit einem „echten“ Menschen. Genutzt werden Chatbots im Verbraucherkontext besonders bei Produkt- und Supportanfragen oder Reklamationen. Wenn der Chatbot nicht weiterhelfen kann, werden die Kunden an einen menschlichen Mitarbeiter weitergeleitet.
Die sogenannten Socialbots sind automatisierte Accounts, die auf sozialen Plattformen, wie z.B. Twitter oder Instagram eigenständig Inhalte posten, liken oder teilen. Hinter den Inhalten stecken also keine realen Menschen, sondern ein automatisch ablaufendes Programm. Diese Art von Bots stehen sehr in der Kritik und es wird zwischen „guten“ und „bösen“ Socialbots unterschieden. Gute Bots können z.B. eingesetzt werden, um Tweets bei Twitter automatisch bei Facebook zu posten. Böse Socialbots nutzen meist gefälschte Profile und werden eingesetzt, um die öffentliche Meinungsbildung – auch durch Verbreitung von Falschinformationen – im Interesse des Bot-Nutzers zu manipulieren. Sie können auch als Cyber-Angriffsmethode genutzt werden und beispielsweise Identitäten adaptieren und so Nachrichten in fremdem Namen versenden.
(Quellen: BSI; DWDL; Süddeutsche Zeitung)
Deepfakes
Unter Deepfakes wird die Manipulation von medialen Identitäten in Video/Bild, Audio und Text verstanden, welche mit Hilfe von KI erzeugt werden. Früher war es sehr aufwendig Videos oder Audioausschnitte qualitativ hochwertig zu manipulieren. Heutzutage kann fast jeder ohne Vorkenntnisse mit Hilfe von entsprechender Software oder Apps täuschend echte Videos erstellen. Dabei können Gesichter, Stimmen und Texte gefälscht werden. So ist es möglich, Gesichter zu imitieren und Stimmen nachzusynthetisieren, um so tatsächliche Personen in Videos zu fälschen. Es wird immer schwieriger, Reales von Künstlich-Erzeugtem zu unterscheiden. Daraus ergeben sich ebenfalls zahlreiche Bedrohungsszenarien. Häufig werden solche Videos zur Unterhaltung veröffentlicht, so können Gemälde oder historische Persönlichkeiten „zum Leben erweckt werden. Es kann aber gefährlich werden, wenn diese zur Verbreitung von Desinformationen genutzt werden. Mit Hilfe von Deepfakes können biometrische Systeme überwunden werden wie z.B. Spracherkennung über das Telefon oder Videoidentifikation. Die Technologie kann für Betrug, z.B. um Geldtransaktionen auszulösen, genutzt werden. Um sich gegen solche möglichen Szenarien und Angriffe zu wappnen, können bereits existierende Normen herangezogen werden, wie beispielsweise die verschiedenen Teile der ISO/IEC 30107 „Information technology - Biometric presentation attack detection“.
Es gibt ein paar Tipps, um Deepfakes zu erkennen. Natürliche Reaktionen wie Blinzeln oder Stirnrunzeln kann mit KI-Software noch nicht gut dargestellt werden. Auch die Stimme ist bei einer gefälschten Identität eher monoton. Allgemein ist die Bildqualität bei solchen Videos oft schlechter. Zudem ist es immer wichtig die Quellen zu prüfen.
(Quellen: BSI; Bundesregierung; Tagesschau; Stern.de)
|
|
|
|
|
|
|
| | Quiz zur Künstlichen Intelligenz | | Die Süddeutsche Zeitung hat auf ihrer Homepage ein Quiz mit lustigen, skurrilen und extrem spannenden Fragen erstellt. Hier erfahren sie, wie die KI-Kirche heißt, welche eine Künstliche Intelligenz verehrt. Und warum KI neue Parfüms kreieren, aber keine ausgefallenen Pizza-Rezepte liefern kann. Erfahren sie auch, welche Staatsbürgerschaft der Roboter Sophia verliehen bekam. Zum Quiz geht’s hier!
|
|
|
|
|
|
|
| | Aktuelle Herausforderungen und Handlungsbedarfe | | Wie jede Technologie bringt auch die Künstliche Intelligenz Risiken und Herausforderungen mit sich. Eine zentrale Herausforderung ist die Verantwortungsfrage, die sich im Fall eines Schadens durch KI-basierte Technologie stellt. Wer sollte etwa bei einem Unfall mit einem selbstfahrenden Auto zur Rechenschaft gezogen werden? Der Eigentümer, der Fahrzeughersteller oder der Programmierer? Eine weitere Herausforderung ist die ordnungsgemäße Nutzung von KI-Systemen. Wenn beispielsweise wichtige Faktoren bei der Programmierung nicht beachtet wurden, kann es bei Jobeinstellungen oder Kreditvergabe zu Diskriminierung aufgrund von zum Beispiel Alter oder Geschlecht kommen. Durch falsche oder unvollständige Daten passiert es, dass die Systeme diese nicht verstehen und Fehler auftreten können. Durch Einsatzgebiete wie Online-Tracking oder Gesichtserkennung sind Auswirkungen auf die Privatsphäre und den Datenschutz wahrscheinlich. Zur Eindämmung von Risiken ist neben der Datensicherheit auch das Prinzip der Datensparsamkeit von Bedeutung. Hier können Verbraucher*innen selbst einen wichtigen Beitrag leisten, indem wohlüberlegt und zurückhaltend mit Daten umgegangen wird. Verbraucher*innen sollten sich darüber im Klaren sein, dass KI-Anwendungen die digitalen Spuren verfolgen, sammeln und analysieren. Aus diesen Daten können Interessen und Gewohnheiten abgeleitet werden, wodurch nutzerspezifische Vorschläge und Empfehlungen erstellt werden können.
Der durch KI entstehende CO2-Fußabdruck ist ein weiteres zu diskutierendes Problem. Dabei spielt nicht nur der Energieverbrauch eine Rolle, sondern auch der Lebenszyklus von Hardware, angefangen bei der Herstellung bis hin zur Entsorgung. In den vergangenen Jahren ist ein neuer Forschungsbereich entstanden, der sich mit dem Spannungsfeld zwischen Performance und Effizienz beschäftigt. Einfacher gesagt, wie maschinelles Lernen bei geringerem Energieverbrauch ähnlich hohe Leistungen bringen kann.
Auch Fälschungen wie die bereits genannten Deepfakes stellen eine Herausforderung dar. Künstliche Intelligenz wird zudem einen nicht zu unterschätzenden Einfluss auf den Arbeitsmarkt haben. Neben dem Wegfall von Arbeitsplätzen werden jedoch auch neue geschaffen. Hier ist es von entscheidender Bedeutung, qualifizierte Arbeitskräfte auszubilden und Weiterbildungen zu ermöglichen. KI-Systeme können hohe Sicherheitsrisiken darstellen, da sie, wenn sie schlecht konzipiert sind, missbraucht oder gehackt werden können. Aufgrund von Ungleichgewichten beim Informationszugang können Transparenzprobleme entstehen, welche eine weitere Herausforderung darstellen können.
Auch KI Systeme können ein potentielles Angriffsziel sein. Beispielsweise, indem die Eingabedaten der KI manipuliert werden oder auch die Trainingsdaten. Das BSI (Bundesamt für Sicherheit in der Informationstechnik) sieht einen dringenden Handlungsbedarf bei der Erforschung von Sicherheit bei KI-Systemen und hat 3 Handlungsbedarfe abgeleitet:
1. Entwicklung von Standards, technischen Richtlinien, Prüfkriterien und Prüfmethoden
2. Erforschung von wirksamen Gegenmaßnahmen spezifischer KI-Angriffe
3. Erforschung von Methoden der Transparenz und Erklärbarkeit
(Quelle: Europäisches Parlament; BSI; Zeit.de)
|
|
|
|
|
|
|
| | KI in der Normung | | DIN
|
| KI-Anwendungen sind bereits in unserem Alltag fest verankert, daher ist es wichtig, durch Normen und Standards einen Handlungsrahmen für KI-Anwendungen zu schaffen. Auch die Bundesregierung weist Normen und Standards gerade beim Thema Künstliche Intelligenz eine zentrale Rolle zu.
Seit 2018 gibt es Aktivitäten bezüglich KI auf der ISO/IEC Ebene und seit Juli 2021 besteht ein diesbezügliches CEN/CENELEC Gemeinschaftsgremium.
Um frühzeitig einen Handlungsrahmen für die Normung und Standardisierung im Bereich KI zu entwickeln, haben DIN und DKE Ende 2019 im Auftrag des Bundesministeriums für Wirtschaft und Energie (BMWi) die Normungsroadmap KI (Ausgabe 1) unter Beteiligung von Wirtschaft, Zivilgesellschaft, Politik und Wissenschaft erarbeitet. Die Interessen der Verbraucher*innen wurden durch verschiedene Verbraucherorganisation, den DIN-Verbraucherrat und Behörden mit Verbraucherschutzaufgaben vertreten. Im Fokus der Verbrauchervertreter standen ethische Fragen, Fragen der Qualitätssicherung/Konformitätsbewertung/ Zertifizierung und der IT-Sicherheit. Seit Januar 2022 haben die Arbeiten an der Normungsroadmap KI 2.0 begonnen. Diese soll bereits Ende 2022 veröffentlicht werden. In 8 inhaltliche Arbeitsgruppen werden unter Beteiligung aller interessierten Expert*innen Normungsbedarfe erarbeitet:
Grundlagen, Prüfung und Zertifizierung, Soziotechnische Systeme, Industrielle Automation, Mobilität, Medizin, Finanzdienstleistungen, Energie/Umwelt
In den grün unterlegten Arbeitsgruppen beteiligt sich auch der DIN-Verbraucherrat. Ziel der Roadmap ist es, die identifizierten Bedarfe in Normungs- und Standardisierungsaktivitäten zu überführen, um sie frühzeitig in der nationalen, europäischen und internationalen Normung zu positionieren.
Bei DIN gibt es bereits Normentwürfe, Technische Berichte und DIN SPECs zum Thema KI. Im Folgenden eine kleine Auswahl zur Übersicht:
|
| | ISO/IEC TR 24028:2020 „Information technology — Artificial intelligence — Overview of trustworthiness in artificial intelligence“
Umfang: Gibt einen Überblick über Bedrohungen und Risiken für KI-Anwendungen, zusammen mit möglichen Abhilfemaßnahmen und Methoden |
| ISO/IEC FDIS 23894 „Information technology — Artificial intelligence — Guidance on risk management“
Umfang: Entwicklung allgemein anerkannter Methoden und Verfahren zur Risikobewertung und -minimierung von KI-Anwendungen |
| DIN SPEC 92001-1:2019 „Künstliche Intelligenz - Life Cycle Prozesse und Qualitätsanforderungen - Teil 1: Qualitäts-Meta-Modell“
Umfang: Aspekte der Risikobewertung |
| ISO/IEC TR 24027:2021 „Information technology — Artificial intelligence (AI) — Bias in AI systems and AI aided decision making“
Umfang: Voreingenommenheit in KI-Systemen und KI-gestützte Entscheidung |
| ISO/IEC TR 24368:2022 „Information technology — Artificial intelligence — Overview of ethical and societal concerns“
Umfang: Ethische und gesellschaftliche Belange |
| ISO/IEC TR 24028: 2020 „Information technology - Artificial intelligence - Overview of trustworthiness in artificial intelligence“
Umfang: Gibt einen Überblick über Ansätze zur Bewertung und Erreichung von Verfügbarkeit, Resilienz, Zuverlässigkeit, Genauigkeit, Sicherheit und Datenschutz von KI-Anwendungen |
| DIN SPEC 92001-2:2020 „Künstliche Intelligenz - Life Cycle Prozesse und Qualitätsanforderungen - Teil 2: Robustheit“
Umfang: Erläutert eine Vielzahl von KI-spezifischen mathematischen Robustheitsanforderungen, insbesondere zu gezielten Systemangriffen mit optimierten Perturbationen (Adversarial Robustness) und Anfälligkeiten gegen natürlich auftretende Störgeräusche / Daten-Ausreißer (Corruption Robustness) |
|
|
|
|
|
|
| Um zu zeigen, wie das Zusammenspiel von Normung und KI funktionieren kann, hat DIN am Beispiel Medizin sehr anschaulich ein Erklärvideo aufbereitet. Mit einem Klick auf das Bild, werden sie zum Video weitergeleitet.
|
|
(Quelle: DIN; KI Normungsroadmap)
|
| |
|
|
|
|
|
DIN-Verbraucherrat
|
| Im Allgemeinen tragen Normen und Standards zur Erklärbarkeit und Nachvollziehbarkeit bei und sollen gleichzeitig bei Verbraucher*innen für Sicherheit und Vertrauen sorgen. Aus Sicht des Verbrauchers müssen dafür gesetzliche Rahmenbedingungen und Normung geschaffen werden, um Risiken wie Diskriminierung, Verlust der Privatsphäre, Verlust der Autonomie im weitesten Sinne und mangelnde Transparenz zu verhindern. Verlässlichkeit ist außerdem ein wichtiger Parameter, um das Verbrauchervertrauen in KI-Anwendungen zu stärken.
Der DIN-Verbraucherrat setzt sich durch die Mitarbeit in relevanten Gremien für die Belange der Verbraucher*innen ein und versucht die eben genannten Risiken zu minimieren oder gar auszuschließen und KI-Anwendungen sicherer zu gestalten.
Durch den AI Act werden in naher Zukunft neue Normungsprojekte angestoßen werden, bei denen auch der Verbraucherrat aktiv mitarbeiten wird.
|
|
|
|
|
|
|
| | Gewinnspiel | | Auch dieses Mal gibt es wieder ein Gewinnspiel für Sie!
Die Frage lautet: In welchem Jahr wurde der erste Chatbot entwickelt?
Senden Sie die Antwort bis zum 30.09.2022 per Mail an: michaela.hildebrandt@din.de
Wir senden dem/der ausgelosten Gewinner*in einen lieben Postkartengruß aus der VR-Geschäftsstelle.
|
|
|
|
|
|
|
|
|
| | Ausblick | | Werte Leserin, werter Leser,
Ausgabe 4 wird sich dem Thema Smart Home widmen. Wie eingangs erwähnt, melden Sie sich für Input oder auch Themenwünsche gern bei Michaela Hildebrandt unter michaela.hildebrandt@din.de.
|
| Der DIN-Verbraucherrat auf Twitter
|
| Schauen Sie gern auf unserem Twitterkanal @verbraucherrat vorbei.
|
| Verabschiedung
|
| Wir hoffen, Sie konnten sich mithilfe unserer Übersicht ein umfassendes Bild zum Thema Künstliche Intelligenz machen und wir haben ein bisschen Hunger geweckt, in den einen oder anderen Aspekt des Themas tiefer einzusteigen.
Von Künstlicher Intelligenz geht ein gesellschaftlicher Wandel aus, der heute noch nicht abzusehen ist. Es bleibt spannend, wie diese Technologie unseren Alltag, die Arbeitswelt und alle anderen Bereiche unseres Lebens verändern wird.
Bis bald und alles Gute
Ihre Verbraucherrat-Geschäftsstelle
|
|
|
|
|
|
|
Der DIN-Verbraucherrat wird durch das Bundesministerium für Umwelt, Naturschutz, nukleare Sicherheit und Verbraucherschutz (BMUV) auf Grund eines Beschlusses des Deutschen Bundestages gefördert.
|
|
|
|
|
|
|
Anschrift
DIN Verbraucherrat • DIN e. V. • Am DIN Platz • Burggrafenstr. 6 • 10787 Berlin
Tel.: 030 2601-2099 • Fax: 030 2601-2099 • E-Mail • Web
Eingetragen im Vereinsregister AG Berlin-Charlottenburg VR 288 B USt.-ID-Nr.: DE 136 622 143
Vorstand
Christoph Winterhalter (Vorsitzender), Daniel Schmidt
V.i.S.d § 55 RStV: Redaktion: Karin Both • Anschrift wie oben
Datenschutz
Sie sind Teil unseres VR-Newsletter-Verteilers und wir senden Ihnen auf diesem Weg bereits seit einiger Zeit unsere Neuigkeiten zu. Daher gehen wir davon aus, dass Sie weiterhin Interesse an diesen Informationen haben. Sollte das nicht mehr der Fall sein, können Sie sich jederzeit mit dem Abmeldelink am Ende dieser E-Mail aus diesem Verteiler austragen. Weitere Informationen zum Datenschutz finden Sie in unserer Datenschutzerklärung
Sie haben noch Fragen zum Newsletter?
Bitte schreiben Sie an verbraucherrat@din.de.
| |
| Sollten Sie kein Interesse an weiteren Newslettern haben, können Sie sich hier abmelden.
| |
|
|
|
