Schutz­en­gel oder bester Freund? Neue Stu­die aus Bay­reuth zur Inter­ak­ti­on von Men­schen und künst­li­cher Intelligenz

Wie Men­schen und künst­li­che Intel­li­genz (KI) in Zukunft mit­ein­an­der umge­hen kön­nen, ana­ly­siert eine neue Stu­die der Pro­jekt­grup­pe Wirt­schafts­in­for­ma­tik des Fraun­ho­fer FIT an der Uni­ver­si­tät Bay­reuth. Sie ist aus einer Koope­ra­ti­on mit der Prü­fungs- und Bera­tungs­ge­sell­schaft EY (Ernst & Young) her­vor­ge­gan­gen. Im Rah­men einer Fach­ta­gung des Münch­ner Krei­ses zum The­ma „Künst­li­che Intel­li­genz und die Auto­ma­ti­on des Ent­schei­dens“ wur­den die Ergeb­nis­se der Stu­die am 09.10.2019 in Mün­chen vorgestellt.

Die Stu­die beruht auf Tie­fen­in­ter­views mit 25 KI-Exper­ten und KI-Anwen­dern, die lei­ten­de Posi­tio­nen in Tech­no­lo­gie-Unter­neh­men, KI-Star­tups oder For­schungs­ein­rich­tun­gen inne­ha­ben. Ergänzt wur­den die­se Inter­views durch eine breit ange­leg­te Lite­ra­tur­re­cher­che. Die Autoren kom­men zu dem Ergeb­nis, dass Inter­ak­tio­nen und unter­schied­li­che For­men der Zusam­men­ar­beit zwi­schen Men­schen und KI künf­tig viel stär­ker als bis­her das täg­li­che Pri­vat- und Berufs­le­ben beein­flus­sen wer­den. „Es ist des­halb wich­tig zu ver­ste­hen, wie wir Men­schen mit Tech­no­lo­gien inter­agie­ren wer­den, die uns auch in kom­ple­xen Denkauf­ga­ben unter­stüt­zen und dabei indi­vi­du­ell auf unse­re Gedan­ken und Gefüh­le ein­ge­hen. Und umge­kehrt müs­sen wir ver­ste­hen ler­nen, wie die­se Tech­no­lo­gien unse­re Hand­lun­gen wahr­neh­men, inter­pre­tie­ren und dar­auf reagie­ren“, erklärt der Lei­ter der Stu­die Prof. Dr. Nils Urbach, Pro­fes­sor für Wirt­schafts­in­for­ma­tik an der Uni­ver­si­tät Bayreuth.

Die For­scher unter­schei­den fünf Typen von Künst­li­cher Intel­li­genz. Dabei ver­wen­den sie zwei Kri­te­ri­en, die sich bei­de auf die Inter­ak­ti­on mit dem Men­schen bezie­hen: Zum einen ist die Hand­lungs­frei­heit von KI-Tech­no­lo­gien unter­schied­lich aus­ge­prägt: In man­chen Fäl­len sol­len sie nur auf expli­zi­te Befeh­le reagie­ren; in ande­ren Fäl­len ist es gewünscht, dass sie selb­stän­dig ent­schei­den und han­deln. Zum ande­ren gibt es ver­schie­de­ne Gra­de der Wech­sel­sei­tig­keit: Je genau­er die unglei­chen Part­ner ihr Ver­hal­ten gegen­sei­tig wahr­neh­men, je mehr Infor­ma­tio­nen sie aus­tau­schen und je stär­ker ihre Hand­lun­gen ein­an­der beein­flus­sen, desto aus­ge­präg­ter ist ihre wech­sel­sei­ti­ge Interaktion.

Selb­stän­dig agie­ren­de KI-Tech­no­lo­gien, die nur sel­ten im Aus­tausch mit ihren Nut­zern ste­hen, wer­den in der Stu­die als „Schutz­en­gel“ klas­si­fi­ziert: Sie beob­ach­ten – bei­spiels­wei­se bei der Steue­rung eines Autos – sowohl den Fah­rer als auch sein Umfeld und grei­fen nöti­gen­falls ein. Wenn KI-Tech­no­lo­gien eine mitt­le­re Hand­lungs­frei­heit besit­zen, gibt es unter ihnen „Kol­le­gen“, „Infor­man­ten“ und „Hein­zel­männ­chen“. Letz­te­re sind bei­spiels­wei­se im digi­ta­li­sier­ten Wohn­haus („Smart Home“) aktiv, ohne dass sie im stän­di­gen wech­sel­sei­ti­gen Aus­tausch mit den Bewoh­nern ste­hen. Zukünf­tig wer­den KI-Lösun­gen auf­grund des tech­no­lo­gi­schen Fort­schritts auch in der Lage sein, empa­thisch auf Emo­tio­nen des Nut­zers zu reagie­ren. So tre­ten sie als „bester Freund“ auf, der vom Men­schen abhän­gig bleibt und mit ihm in einem inten­si­ven wech­sel­sei­ti­gen Aus­tausch steht.

Die Unter­su­chung gibt auch Hin­wei­se auf die Fak­to­ren, die das Ver­trau­en in den Ein­satz künst­li­cher Intel­li­genz im All­tag för­dern: Wich­tig ist, dass die Trans­pa­renz der Inter­ak­tio­nen mit KI-Tech­no­lo­gien bewusst gestal­tet wird. Eben­so sind spe­zi­fi­sche Anpas­sun­gen an die indi­vi­du­el­len Anfor­de­run­gen des Nut­zers („Per­so­na­li­sie­rung“) und Ähn­lich­kei­ten mit dem Men­schen („Anthro­po­mor­pho­lo­gie“) für die Akzep­tanz von KI-Lösun­gen wichtig.

Alle Inter­es­sier­ten kön­nen die Stu­die kosten­los anfor­dern per E‑Mail an Jan Jöhnk, Mit­ar­bei­ter der Pro­jekt­grup­pe Wirt­schafts­in­for­ma­tik des Fraun­ho­fer FIT an der Uni­ver­si­tät Bay­reuth: jan.​joehnk@​fim-​rc.​de