TouchAI: Exploring human-AI perceptual alignment in touch through language model representations
Diese Arbeit untersucht die wahrgenommene Übereinstimmung zwischen großen Sprachmodellen und menschlichen Berührungserfahrungen mittels einer „Rat-der-Textil"-Aufgabe und zeigt, dass zwar ein gewisses Maß an Übereinstimmung besteht, diese jedoch je nach Textilart erheblich variiert und häufig nicht mit menschlichen subjektiven Wahrnehmungen übereinstimmt.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Die große Idee: Kann AI „fühlen", was wir fühlen?
Stellen Sie sich vor, Sie versuchen einem Roboter beizubringen, wie sich ein Seidenschal im Vergleich zu einer Jeans anfühlt. Sie können dem Roboter keine Hände geben, also müssen Sie es ihm mit Worten beschreiben. Sie sagen: „Die Seide ist glatt und rutschig, wie Wasser", und „Die Jeans ist rau und steif, wie Sandpapier."
Diese Studie stellte eine einfache Frage: Wenn ein Mensch beschreibt, wie sich etwas anfühlt, kann ein intelligenter Computer (eine KI) diese Beschreibung so gut verstehen, dass er genau erraten kann, um welches Objekt es sich handelt?
Die Forscher nannten dieses Projekt „TouchAI". Sie wollten herausfinden, ob die „mentale Karte" der KI darüber, wie sich Dinge anfühlen, mit unserer menschlichen Karte übereinstimmt.
Das Experiment: Das „Blinderraten-Spiel"**
Um dies zu testen, stellten die Forscher ein Spiel namens „Errate den Stoff?" auf.
- Der Aufbau: Ein Teilnehmer saß an einem Schreibtisch mit einer schwarzen Box vor sich. Er konnte nicht hineinsehen, nur hineingreifen.
- Die Aufgabe: In der Box befanden sich zwei Stoffstücke. Eines war eine „Referenz" (die KI wusste, was dies war, zum Beispiel ein Stück Baumwolle). Das andere war ein „Ziel" (die KI wusste nicht, was dieses war).
- Die Interaktion: Der Teilnehmer berührte beide Stoffe. Dann musste er dem AI den Unterschied zwischen ihnen beschreiben.
- Beispiel: „Das Ziel fühlt sich weicher und glatter an als die Baumwollreferenz."
- Der Zug der KI: Die KI hörte die Beschreibung zu, verarbeitete die Wörter und machte eine Vermutung: „Ich denke, das Ziel ist Seidensatin."
- Das Ergebnis:
- Wenn die KI richtig lag, endete das Spiel.
- Wenn die KI falsch lag, wurde der „Seidensatin" zur neuen Referenz, und der Teilnehmer musste das Ziel erneut beschreiben, indem er es mit der Seide verglich. Die KI versuchte es erneut. Dies konnte bis zu fünf Mal wiederholt werden.
Was haben sie herausgefunden?
Die Ergebnisse waren eine Mischung aus „nicht schlecht" und „sehr verwirrt".
1. Die KI rät größtenteils im Dunkeln.
Insgesamt lag die KI nur in 22,5 % der Fälle richtig. Das ist kaum besser, als wenn die KI einfach die Augen geschlossen und einen zufälligen Stoff aus einem Hut gezogen hätte. Dies deutet darauf hin, dass aktuelle KI-Modelle nicht wirklich „wissen", wie sich Berührung anfühlt; sie raten größtenteils nur basierend darauf, wie oft sie diese Wörter in Büchern gesehen haben.
2. Die KI hat einen „Lieblingsstoff".
Hier wird es interessant. Die KI war nicht bei allem gleichermaßen schlecht.
- Der Gewinner: Wenn das Ziel Seidensatin war, lag die KI 100 % der Zeit richtig.
- Die Verlierer: Wenn das Ziel Baumwolljeans (Jeans) war, lag die KI 0 % der Zeit richtig.
Analogie: Stellen Sie sich einen Schüler vor, der eine Prüfung schreibt. Er hat jede Frage über „Gold" richtig beantwortet, weil er ein Gedicht über Gold auswendig gelernt hat. Aber er hat jede Frage über „Sand" falsch beantwortet, weil er nie etwas über Sand gelesen hat. Die KI kennt das „Gold" (Seide), weil es in Geschichten und Filmen oft als „weich und glänzend" vorkommt. Sie kennt den „Sand" (Denim) nicht, weil Menschen selten detaillierte Geschichten darüber schreiben, wie sich raue Jeans anfühlen.
3. Die „mentale Karte" ist verzerrt.
Die Forscher untersuchten, wie die KI diese Stoffe in ihrem „Gehirn" (ihrem Datenraum) organisiert hat.
- Menschliche Karte: Wir gruppieren Stoffe danach, wie sie sich anfühlen. Seide und ein weiches Synthetikmaterial könnten Nachbarn sein, weil sich beide glatt anfühlen.
- KI-Karte: Die KI gruppiert Stoffe danach, wie sie heißen oder welcher Kategorie sie angehören. Sie könnte alle „Baumwollen" zusammen und alle „Seiden" zusammenlegen, selbst wenn sich eine bestimmte Baumwolle sehr von einer anderen anfühlt.
Die Metapher: Stellen Sie sich das Gehirn der KI wie eine Bibliothek vor, in der Bücher nach der Farbe des Covers (dem Namen des Stoffes) sortiert sind und nicht nach dem Genre (wie er sich anfühlt). Menschen sortieren nach Genre (Gefühl); die KI sortiert nach Coverfarbe (Name).
Warum ist das wichtig?
Das Paper erklärt, dass dies passiert, weil Berührung schwer zu beschreiben ist.
- Sehen ist einfach: Wir haben eine universelle Sprache für Farben. „Rot" ist immer #FF0000. Wir können einen roten Apfel sehr präzise beschreiben.
- Berührung ist chaotisch: Wörter wie „weich", „rau" oder „butterweich" sind vage. Das „Weiche" des einen ist das „Mittlere" des anderen. Außerdem schreiben Menschen selten lange Beschreibungen darüber, wie sich ihre Jeans im täglichen E-Mail-Verkehr oder in Romanen anfühlen.
Da die KI auf Text (Bücher, Websites, Artikel) trainiert wurde, lernte sie viel darüber, wie Dinge aussehen und klingen, aber sehr wenig darüber, wie Dinge sich anfühlen. Es ist wie der Versuch zu lernen, wie sich ein Elefant anfühlt, indem man nur ein Buch über Elefanten liest, aber niemals wirklich einen berührt.
Das Fazit
Die Studie kommt zu dem Schluss, dass die KI, obwohl sie immer besser darin wird, Wörter zu verstehen, immer noch schlecht darin ist, Gefühle zu verstehen.
- Sie kann „Seide" erraten, weil das Wort „Seide" in ihren Trainingsdaten stark mit „weich" verknüpft ist.
- Sie scheitert bei „Denim", weil die Verbindung zwischen dem Wort „Denim" und dem Gefühl von „Rauheit" in dem Text, den sie gelesen hat, nicht stark genug ist.
Die Forscher sagen, dass die KI, um uns in der Zukunft wirklich zu helfen (wie ein Roboter, der Ihnen Kleidung aussucht), mehr als nur Wörter lernen muss. Sie muss die physische Welt verstehen, nicht nur die Beschreibung davon. Bis dahin wird sie, wenn Sie sie bitten, einen Stoff auszuwählen, der sich „genau richtig" anfühlt, vielleicht nur basierend auf dem populärsten Wort raten, das sie kennt, und nicht auf dem, was sich tatsächlich gut anfühlt.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.