Warum uns smarte Produkte Gänsehaut bereiten

Smart-Home-Assistenten werden immer beliebter. Allerdings werden sie von Nutzer:innen nicht nur als praktisch,sondern immer wieder auch als gruselig empfunden. Eine im International Journal of Information Management (Open Access) erschienene Studie von Forschern der BFH Wirtschaft hat sich mit solch unheimlichen Begegnungen befasst. Sie haben die Auslöser und Folgen beleuchtet, was genau Unbehagen bei den Befragten auslöst.

Während smarte Haushaltsbegleiter versprechen, unser Leben unbeschwerter zu machen, haben zahlreiche Anekdoten über unheimliches Gelächter mitten in der Nacht [4] oder das unerwartete Auflisten von Namen von nahegelegene Bestattungsfirmen [5], SHA einen unheimlichen Ruf eingebracht. Solche Ereignisse sind zwar oft das Resultat von technischen Fehlfunktionen, lösen jedoch grosses Unbehagen und eben Gruselgefühle bei vielen Verbraucher:innen aus [6]. Der “Privacy Not Included-Shoppers Guide” der Mozilla Stiftung, der Verbraucher:innen smarte Produkte nach ihrer wahrgenommenen Bedenklichkeit bewerten lässt, stuft Smart-Home-Assistenten als einige der gruseligsten Produkte auf dem Markt ein [7]. So wurde der Amazon Echo Dot mit Stand November 2023 von über 70 % der mehr als 11.000 befragten Verbraucher:innen als gruselig oder sehr gruselig eingestuft.

Die Auslöser von Unbehagen

Wir wollten herausfinden, warum Verbraucher:innen SHA als gruselig wahrnehmen und wie sich diese Wahrnehmung auf ihre Nutzungsbereitschaft auswirkt. Zu diesem Zweck führten zunächst wir zunächst eine Reihe von explorativen Interviews mit Personen durch, die SHA aktiv ablehnen. Diese anfängliche Untersuchung lieferte erste Hinweise auf das Phänomen des wahrgenommenen Grusels im Zusammenhang mit SHA sowie auf mögliche Auslöser. In weiteren Studien, darunter eine Umfrage (n=313) und ein Online-Experiment (n=553), haben wir den wahrgenommenen Grusel  dann konzeptualisiert, ein entsprechendes Messinstrument entwickelt, und die Auslöser getestet, die häufig als Ursachen für die Wahrnehmung von Grusel genannt werden: mangelnde Transparenz der Algorithmen und mangelnde Tangibilität von SHA.

Während eine hohe Transparenz negative Wahrnehmungen abschwächt, kann eine niedrige Transparenz Anspannung, Skepsis und Unbehagen hervorrufen.

SHA nutzen komplexe Algorithmen, um Nutzeranfragen zu verstehen, Befehle zu verarbeiten und entsprechende Aktionen auszuführen. Transparenz bezüglich dieser Algorithmen ermöglicht es Nutzer:innen zu verstehen, wie Algorithmen agieren und wie sie Empfehlungen generieren.

Die bisherige Forschung zu digitalen Technologien hat gezeigt, wie wichtig die Transparenz von Algorithmen dafür ist, wie Kund:innen Technologien wahrnehmen [2, 8, 9]. Während eine hohe Transparenz negative Wahrnehmungen abschwächt, kann eine niedrige Transparenz Anspannung, Skepsis und Unbehagen hervorrufen [1, 2]. Zudem kann ein Mangel an Transparenz das Vertrauen in die Empfehlungen von Technologien untergraben und zu gruseligen Situationen führen [6, 9-11]. Solche Situationen sind beispielsweise sogenannte «People You May Know»-Vorschläge auf Facebook oder Instagram, nachdem man jemanden persönlich getroffen hat, oder der Erhalt von Werbung auf Instagram, welche mutmasslich auf der Nutzung des Mikrofons am Smartphone basiert [2, 12].

In unserer Multimethoden-Studie haben wir den Zusammenhang zwischen der Transparenz von Algorithmen und wahrgenommenen Grusel im Kontext von SHA untersucht, und zeigen, dass ein Mangel an Transparenz der Algorithmen zu erhöhtem Empfinden von Grusel bei Verbraucher:innen führen kann.

Gruselfaktor: unsichtbare Smart-Home-Assistenten

SHA sind zunehmend in unsere Umgebung integriert, sei es in Wänden, Decken (siehe das Klipsch Amazon Echo Multi-Room Smart Speaker System) oder in Objekten wie Spiegeln, Lampen und Lautsprechern [13]. Auf diese Weise verschwinden SHA mit der Zeit als sichtbare und tangible Geräte aus unserem Umfeld [14, 15].

Aus Sicht potenzieller Nutzer:innen sind diese Entwicklungen allerdings nicht durchweg positiv. Frühere Forschung legen nahe, dass sich ein Mangel an Tangibilität, also Sicht- und Spürbarkeit nachteilig auf die Wahrnehmung von Angeboten eines Unternehmens auswirken kann. Beispielsweise empfinden Verbraucher:innen den Kauf von Services als riskanter und unsicherer als den Kauf materieller Produkte, da Services keine physische Form haben, die sie vor dem Kauf begutachten können [16-18]. Diese Unsicherheit wird verstärkt, wenn Verbraucher:innen den Services psychologisch nahestehen, so wie es bei SHA der Fall ist, die in unseren intimsten Lebensbereichen operieren [19]. Jüngste Forschungen zu smarten Produkten haben zudem ergeben, dass sich positive Beziehungen zwischen Unternehmen und Verbraucher:innen häufig mithilfe oder anhand eines physischen Gerätes, wie z.B. einem iPhone, bilden [20]. Da SHA zunehmend als tangible Geräte verschwinden und dabei unauffällig in unsere intimsten Bereiche eindringen, ist es nicht verwunderlich, dass sie einigen von uns gruselig erscheinen.

Unser Online-Experiment lieferte weitere Belege für diese Verbindung und zeigt, dass der Mangel an Tangibilität von SHA wesentlich dazu beitragen kann, dass SHA als gruselig wahrgenommen werden.

Ausblick

Da das Innenleben von SHA immer mehr einer Blackbox ähnelt und SHA vermehrt in Alltagsgegenstände oder bauliche Komponenten unserer täglichen Umgebung integriert werden, fällt es Verbraucher:innen zunehmend schwerer SHA als greifbare Helfer wahrzunehmen. Dieser Wandel stellt SHA-Entwickler:innen vor die grosse Herausforderung, das richtige Gleichgewicht zwischen technologischem Fortschritt und Kundenwahrnehmungen zu finden. Indem sie sich mit den zugrundeliegenden Auslösern der mangelnden Transparenz von Algorithmen und Tangibilität der Geräte auseinandersetzen, können Entwickler:innen zumindest das “Gruselproblem” bewältigen und SHA designen, die sich nahtlos in unser Leben integrieren, ohne unser psychologisches Wohlbefinden zu beeinträchtigen.

Die Ergebnisse unserer abschließenden Fokusgruppenstudie liefern konkrete Ideen dafür, wie SHA-Hersteller dies erreichen können. Um beispielsweise die räumliche Präsenz und Tangibilität von SHA zu erhöhen, können SHA-Entwickler:innen visuelle oder akustische Statushinweise wie LEDs oder Töne verbauen, die signalisieren, wann das Gerät aktiv ist. SHA-Entwickler:innen könnten zudem physische Ein- und Ausschaltknöpfe installieren, damit Nutzer:innen SHA auf einfache Art deaktivieren und vom WLAN trennen können.

Softwareseitig sollten SHA-Entwickler:innen den Verbraucher:innen mittels Apps oder Dashboards Einblick in die Algorithmen gewähren und so veranschaulichen, wie der Smart-Home-Assistent zu einer bestimmten Empfehlung gelangt ist. Entwickler:innen sollten Nutzer:innen zudem die Möglichkeit geben, konfigurieren zu können, wann SHA personenbezogene Daten zur Generierung von Empfehlungen verwenden.

Auch wenn SHA zweifellos einen beeindruckenden technologischen Fortschritt zu einem komfortableren Alltag darstellen, sollten SHA-Entwickler:innen vorsichtig sein und potentielle negative psychologischen Auswirkungen auf Verbraucher:innen berücksichtigen. In diesem Zusammenhang zeigt unsere Studie, dass es notwendig ist, das richtige Gleichgewicht zwischen der nahtlosen Integration in unser tägliches Leben und dem Bedürfnis nach Transparenz und Greifbarkeit zu finden, um Unbehagen zu vermeiden.

Weitere Informationen

• Die vollständige Forschungsstudie veröffentlich als Raff, S., Rose, S., & Huynh, T. (2024). Perceived creepiness in response to smart home assistants: A multi-method study. International Journal of Information Management, 74, 102720 und weitere Studieninhalte können über den folgenden Link aufgerufen werden: https://www.sciencedirect.com/science/article/pii/S0268401223001019
• Der erschienene Forbes-Artikel, in dem Autorin Tomoko Yokoi die Haupterkenntnisse unserer Forschungsstudie auf den Punkt bringt, kann über den folgenden Link aufgerufen werden: https://www.forbes.com/sites/tomokoyokoi/2023/11/08/mitigating-the-creepiness-of-smart-home-technologies/?ss=entrepreneurs

Referenzen

1. Benlian, A., J. Klumpe, and O. Hinz, Mitigating the intrusive effects of smart home assistants by using anthropomorphic design features: A multimethod investigation. Information Systems Journal, 2019. 30(6): p. 1010-1042.
2. Watson, H.J. and C. Nations, Addressing the growing need for algorithmic transparency. Communications of the Association for Information Systems, 2019. 45(1): p. 26.
3. McAndrew, F.T. and S.S. Koehnke, On the nature of creepiness. New ideas in psychology, 2016. 43: p. 10-15.
4. Badkar, M. Amazon says it has fixed unprompted laughter from Alexa. 2018.
5. Segarra, L.M. It’s Not Just You: Amazon Admitted That Alexa Has Been Laughing at People. 2018.
6. Shank, D.B., et al., Feeling our way to machine minds: People’s emotions when perceiving mind in artificial intelligence. Computers in Human Behavior, 2019. 98: p. 256-266.
7. Mozilla, *Privacy Not Included buyer’s guide. 2023.
8. Bauer, K. and A. Gill, Mirror, Mirror on the Wall: Algorithmic Assessments, Transparency, and Self-Fulfilling Prophecies. Information Systems Research, 2023.
9. Recker, J.C., et al., From representation to mediation: a new agenda for conceptual modeling research in a digital world. MIS Quarterly: Management Information Systems, 2021. 45(1): p. 269-300.
10. Langer, M. and C.J. König, Introducing and testing the creepiness of situation scale (CRoSS). Frontiers in Psychology, 2018. 9: p. 2220.
11. Tene, O. and J. Polonetsky, A theory of creepy: technology, privacy and shifting social norms. Yale JL & Tech., 2013. 16: p. 59.
12. Franklin, M. ‹People You May Know› is the perfect demonstration of everything that’s wrong with Facebook. 2018.
13. Alang, N. Amazon’s dystopian plan to be anywhere and everywhere. 2019.
14. Milne, R. Ikea assembles software engineers in smart home push. 2019.
15. Nuttall, C. Alexa, where are you heading next? 2019.
16. Bardhi, F. and G.M. Eckhardt, Liquid consumption. Journal of Consumer Research, 2017. 44(3): p. 582-597.
17. Laroche, M., et al., Exploring how intangibility affects perceived risk. Journal of Service research, 2004. 6(4): p. 373-389.
18. Murray, K.B. and J.L. Schlacter, The impact of services versus goods on consumers’ assessment of perceived risk and variability. Journal of the Academy of Marketing science, 1990. 18: p. 51-65.
19. Heller, J., et al., Tangible service automation: decomposing the technology-enabled engagement process (TEEP) for augmented reality. Journal of Service Research, 2021. 24(1): p. 84-103.
20. Raff, S., D. Wentzel, and N. Obwegeser, Smart products: conceptual review, synthesis, and research directions. Journal of Product Innovation Management, 2020. 37(5): p. 379-404.

[1] In dieser Studie verstehen wir das Gefühl des Gruselns, wie es von McAndrew & Koehnke (2016) in Bezug auf soziale Kontexte erklärt wird, als eine Form des subtilen Unbehagens, ein intuitives oder instinktives Gefühl, das durch einen Mangel an Transparenz darüber ausgelöst wird, ob es einen Grund gibt, sich bedroht oder verängstigt zu fühlen.