9 Mythen vom maschinellen Lernen

"Machine Learning ist unbefangen"

Weil Machine-Learning-Systeme von Daten lernen, werden sie auch die hier eventuell vorhandenen Vorurteile replizieren. Wer nach Fotos von CEOs sucht, wird wahrscheinlich vor allem weiße, männliche Menschen zu sehen bekommen, weil deren Anteil unter den CEOs besonders hoch ist.

Maschinelles Lernen ist sogar in der Lage, Vorurteile und Befangenheit zu verstärken: Das COCO-Datenset kommt oft beim Training von Bilderkennungssystemen zum Einsatz. Das Datenset enthält Bilder von Männern und Frauen - wobei die Frauen öfter zusammen mit Küchenutensilien abgebildet sind und Männer mit Computer Hardware oder Sportgeräten. Wenn Sie damit Ihr ML-System trainieren, wird dieses Männer eher mit Computern und Sport in Verbindung bringen, als es die Statistiken der Originalfotos tun.

Es ist auch möglich, dass ein Machine-Learning-System ein anderes mit Befangenheit "impft". Wenn Sie Ihr System zum maschinellen Lernen mit einem populären Framework trainieren, das Wörter als Vektoren darstellt, um die Beziehungen zwischen diesen zu visualisieren, wird das System Stereotypen lernen wie "Mann verhält sich zu Frau wie Doktor zu Krankenschwester und Chef zu Sekretärin". Wenn Sie dieses System nun mit einem anderen kombinieren, das zwischen Sprachen mit und ohne gender-neutralen Pronomen hin- und her übersetzt, wird aus dem Englischen "they are a doctor" am Ende "he is a doctor" und aus "they are a nurse" wird "she is a nurse".

Empfehlungen auf der Grundlage vergangener Seitenaufrufe machen im Fall eines Onlineshops durchaus Sinn - problematisch wird das Ganze, sobald es sich um "sensible Bereiche" dreht und eine Feedback-Schleife entstehen kann. Wenn Sie einer Facebook-Gruppe beitreten, die sich gegen Schutzimpfungen ausspricht, wird Ihnen die Empfehlungs-Engine von FacebookFacebook weitere Gruppen mit "Verschwörungstheorie-Ausrichtung" vorschlagen. Alles zu Facebook auf CIO.de

Es ist wichtig, sich in Sachen Machine Learning der Probleme mit der Befangenheit bewusst zu sein. Wenn Sie Ihr Trainings-Datenset nicht von Befangenheit befreit bekommen, empfehlen sich Techniken um etwa die Geschlechtsbeziehungen zwischen bestimmten Wortpaaren abzuschwächen oder Dinge ohne direkten Bezug in die Empfehlungen aufzunehmen, um Filterblasen zu vermeiden.

"Maschinelles Lernen dient nur dem Guten"

Machine Learning treibt auch Antivirus Tools an und analysiert in diesem Bereich zum Beispiel neue Bedrohungsmuster. Kriminelle Hacker auf der anderen Seite haben maschinelles Lernen ebenfalls längst für sich entdeckt und nutzen entsprechende Tools, um die Verteidigungslinien ihrerseits durchbrechen zu können.

Ein weiteres, kriminelles Einsatzgebiet von Machine Learning: Gezielte und großangelegte Phishing-Attacken, deren Erfolgschancen zuvor auf Grundlage von Datenanalysen errechnet werden.

"Machine Learning wird Menschen ersetzen"

Die Angst vor der Verdrängung durch Künstliche Intelligenz ist allgegenwärtig. Und mit Sicherheit wird die Technologie dafür sorgen, dass sich unsere Arbeitswelt und die Art, wie wir arbeiten, verändern. Machine-Learning-Systeme können Effizienz und ComplianceCompliance zuträglich sein und Kosten reduzieren. Auf lange Sicht werden einige Tätigkeiten wegfallen, dafür werden neue entstehen. Alles zu Compliance auf CIO.de

Fakt ist aber auch, dass Systeme für maschinelles Lernen vor allem solche Aufgaben automatisieren, die vorher einfach nicht erfüllbar waren - entweder aus Komplexitäts- oder aus Skalierungsgründen. Was Machine Learning bereits "geschafft" hat: Es hat für die Entstehung neuer Geschäftsmodelle und -Möglichkeiten gesorgt, beispielsweise wenn es darum geht, die Customer Experience mit Hilfe von Predictive Maintenance zu pushen oder datengetriebene Business-Entscheidungen zu treffen.

Kurzum: Wie die früheren Automatisierungs-Instanzen befähigt auch Machine Learning in erster Linie die Mitarbeiter von Unternehmen, ihre Expertise und Kreativität zu entfalten.

Dieser Beitrag basiert auf einem Artikel unserer US-Schwesterpublikation cio.com.