Bei einem virtuellen Kartenspiel erhöhte sich die Risikobereitschaft der Proband*innen, wenn sie dachten, eine KI unterstützt sie beim Spielen.
Als „Human Augmentation Technologies“ werden Technologien bezeichnet, die menschliche Fähigkeiten verbessern. Dazu zählen zum Beispiel Exoskelette, aber auch Augmented Reality-Brillen. Eine Studie am Lehrstuhl für Human Centered Ubiquitous Media der LMU zeigt nun, dass Nutzer*innen hohe Erwartungen an den Effekt dieser Technologien haben. Sobald sie der Ansicht sind, eine KI würde ihre kognitiven Fähigkeiten verbessern, erhöht sich ihre Risikobereitschaft. Und das unabhängig davon, ob die KI sie tatsächlich unterstützt.
„Der Hype um KI-Anwendungen wirkt sich auf die Erwartungen von Nutzerinnen und Nutzer aus. Das kann zu risikoreicherem Verhalten führen“, sagt Doktorand Steeven Villa.
Placebo-Effekte ausschließen
In der Studie wurde den Proband*innen mitgeteilt, dass sie bei einem virtuellen Kartenspiel von einer KI-Anwendung unterstützt würden, die ihre kognitiven Fähigkeiten erhöht. Tatsächlich gab es diese Unterstützung nicht. Dennoch zeigten die Teilnehmer*innen eine höhere Risikobereitschaft, sobald sie glaubten, von der KI zu profitieren.
Die Studie bestätigt damit zudem den möglichen Placebo-Effekt bei technologischen Anwendungen in ähnlicher Form, wie dieser bei Medikamenten nachweisbar ist:
„Wenn Menschen zunehmend mit intelligenten Systemen zusammenarbeiten, ist es wichtig einen möglichen Placebo-Effekt zu verstehen, um wirklich Systeme bauen zu können, die eine echte Unterstützung bieten“, sagt Albrecht Schmidt, Informatikprofessor an der LMU.
Die Forscher empfehlen, vor der Verbreitung neuer KI-Anwendungen deren tatsächlichen Nutzen zu überprüfen und dann mögliche Placebo-Effekte zu berücksichtigen. Zudem raten sie, Nutzer*innen sowie deren Erwartungshaltungen stärker in den Entwicklungsprozess miteinzubeziehen.
Quelle: LMU München
