Ethik des Programmcodes

Sage, der Markt- und Technologieführer für Cloud-basierte Buchhaltungs-, Lohnabrechnungs- und Bezahlsysteme, hat die Technik-Community dazu aufgerufen, Verantwortung für die ethische Entwicklung von Künstlicher Intelligenz (KI) für Unternehmen zu übernehmen. Sage hebt mit „The Ethics of Code: Developing AI for Business with Five Core Principles“ eine Reihe von Werten hervor, an denen sich die Entwicklerinnen und Entwickler an der Schwelle zur vierten industriellen Revolution orientieren sollten.

Die Ethik des Programmcodes von Sage ist in der Zeit entstanden, in der Sage seine eigenen Programme für Maschinelles Lernen und Künstliche Intelligenz entwickelte. Ziel der Anwendungen ist es, den administrativen Aufwand für Finanzen – vom Startup bis zum Großkonzern – zu reduzieren.

Kriti Sharma, Vice President für Bots und KI bei Sage, erklärt: „Chatbots und KI-Anwendungen zu entwickeln, die unsere Kunden unterstützen, das ist der einfache Teil. Die weitergehenden großen Fragen aber ergeben sich aus der zunehmenden Präsenz von KI. Sie sind vielfältig und werden immer aktueller. Daher orientieren wir uns bei der KI-Entwicklung an einem Werte-Kanon, der als Orientierung bei der KI-Entwicklung dient. Er hilft uns zu gewährleisten, dass unsere Produkte sicher sind und ethischen Kriterien entsprechen.“

„Unsere Ethik des Programmcodes wurde zum Schutz der Anwender konzipiert und soll gewährleisten, dass Technik-Giganten wie Sage Künstliche Intelligenz entwickeln, die ungefährlich und sicher ist, sich dem Anwendungsfall anpasst sowie integrierend ist und so die Vielfalt der Anwender spiegelt, die sie nutzen. Als führendes Unternehmen bei der Entwicklung von KI im Unternehmensumfeld möchten wir andere dazu aufrufen – Großkonzerne, kleine Unternehmen, aber auch Hacker – diese Prinzipien bei der Entwicklung und Bereitstellung ihrer eigenen KI-Anwendungen im Kopf zu behalten.“

„The Ethics of Code: Developing AI for Business with Five Core Principles“

KI sollte die Diversität der Anwender widerspiegeln, die KI nutzen: Sowohl die Wirtschaft als auch die Community muss effektive Mechanismen entwickeln, um Vorurteile und negative Tendenzen aus den Daten, von denen KI lernt, herauszufiltern – um sicherzustellen, dass die KI-Anwendung keine Stereotypen zementiert.

KI muss verantwortlich zu machen sein – genauso wie die Nutzer: Anwender stellen eine Beziehung zu KI-Anwendungen her und vertrauen ihnen bereits nach ein paar relevanten Interaktionen. Mit dem Vertrauen kommt auch die Verantwortung. Daher muss man KI für ihre Handlungen und Entscheidungen zur Rechenschaft ziehen können, genau wie Menschen. Die Technik darf nicht so intelligent werden, dass sie sich der Verantwortung entziehen kann. Dieses Verhalten akzeptieren wir schließlich auch nicht in anderen Bereichen, in denen es um Expertenwissen geht. Die Technik darf keine Ausnahme darstellen.

KI-Leistungen honorieren: Lernt ein KI-System von schlechten Beispielen, könnte das zu unangemessenem Verhalten führen. Wir sollten uns in Erinnerung rufen, dass die meisten heutigen KI-Anwendungen keine Wahrnehmung dafür haben, was sie uns mitteilen. Das „Bewusstsein“ wird sich allein durch allgemeines Zuhören und Lernen entwickeln. Ein Ansatz dafür ist die Entwicklung eines Belohnungssystems für das KI-Training. Maßnahmen für das Reinforcement-Lernen (Lernen durch Bestärken) sollten nicht nur darauf basieren, was KI-Anwendungen oder Roboter tun, um ein Ergebnis zu erzielen, sondern auch darauf, wie sie sich an menschlichen Werten ausrichten, um bestimmte Resultate zu erzielen.

KI sollte für Chancengleichheit sorgen: Sprachtechnologie und Social Bots eröffnen neue Möglichkeiten der Teilhabe, besonders für Menschen, die durch Sehprobleme, Legasthenie oder eingeschränkte Bewegungsfähigkeiten gehandikapt sind. Die Community für Business-Technologie muss die Entwicklung neuer Technologien vorantreiben, die der Chancengleichheit und der Vergrößerung des Talentpools dienen.

KI wird Vieles ersetzen, aber sie muss auch Neues schaffen: Durch die automatisierte Erledigung von Aufgaben durch Roboter werden sich neue Möglichkeiten eröffnen. An diese neuen Chancen müssen Menschen herangeführt und dafür ausgebildet werden. Wenn Unternehmen und KI zusammenarbeiten, können sich Menschen stärker auf das konzentrieren, worin sie gut sind: Beziehungen aufbauen und Kunden betreuen.

Rainer Downar, Executive Vice President von Sage, sagt dazu: „Mit der Entwicklung von Künstlicher Intelligenz bieten sich großartige neue Möglichkeiten. Damit einher geht aber auch eine große Verantwortung. Sage möchte mit seiner Ethik des Programmcodes und seinen Leitlinien ein Zeichen für eine verantwortungsvolle Entwicklung setzen. Der Umgang mit KI muss im Einklang mit ethischen Werten stehen. Wir von Sage sind davon überzeugt, dass das die Basis für eine starke Partnerschaft zwischen KI und Mensch ist.“