Nyckel takeaways
- Allt fler företag använder AI för att läsa dina känslor.
- Känsloläsande AI kan potentiellt göra tekniken lättare att använda.
- Vissa experter oroar sig över integritetskonsekvenserna av att företag samlar in dina känslomässiga data.
Artificiell intelligens (AI) kan snart veta mer om dig än du tror. En startup som heter Hume AI påstår sig använda algoritmer för att mäta känslor från ansikts-, röst- och verbala uttryck. Det är ett av ett växande antal företag som utger sig för att läsa mänskliga känslor med hjälp av datorer. Men vissa experter säger att konceptet väcker integritetsproblem. «Den som kontrollerar dessa system och plattformar kommer att ha mycket information om individer,» sa Bob Bilbruck, en teknisk startup-rådgivare, till Lifewire i en e-postintervju. «De kommer att kunna bygga profiler för dessa människor som kan användas för ekonomisk vinst, kontroll över resultat eller potentiellt mer smutsig makrospårning av människor och samhälle.»
Ansiktsläsning?
Hume säger att hemligheten med att lära AI att läsa känslor är big data. Företaget säger att det tränar sin AI på massiva datamängder från Nordamerika, Afrika, Asien och Sydamerika. «Vår vision är en värld där AI översätter vetenskapliga insikter till nya sätt att förbättra den mänskliga känslomässiga upplevelsen», skriver företaget på sin hemsida. «Känslomässig medvetenhet är den saknade ingrediensen som behövs för att bygga sociala mediealgoritmer som optimerar för användarnas välbefinnande…» Hume är ett av många företag som försöker utnyttja data för att få insikter i mänskliga känslor. Företag använder känslomässig övervakning för att försöka designa effektiva annonser, sa Oleksii Shaldenko, en professor som forskar om AI vid Igor Sikorsky Kyiv Polytechnic Institute i Ukraina, till Lifewire i en e-postintervju. Liknande teknik används för att utvärdera tonfallet på callcenter, övervaka förarbeteende i bilar och mäta tittarnas attityd hos streaming- och produktionsbolag. Det finns betydande potentiella fördelar för användare med att låta AI läsa deras känslor, sa Ryan Monsurate, teknisk chef för AI Dynamics, till Lifewire i en e-postintervju. Han sa att en användning skulle vara att designa gränssnitt som minskar sannolikheten för att människor blir frustrerade eller arga på sin teknik. Ett mer utmanande problem att lösa skulle vara att generera lämpliga känslomässiga svar på de känslor som uppfattas av AI som interagerar med människor, sa Monsurate. «Många av oss har pratat med våra underrättelseassistenter, och även om kvaliteten på tonhöjden och intonationen av deras röster har förbättrats under det senaste decenniet, är de inte bättre på att kommunicera på ett sätt som förmedlar olika känslor», tillade han. «Jag ser att generativa modeller kan generera syntetiska röster med känslor och med kontextuellt lämpliga känslor när modeller växer i storlek och komplexitet, eller när vi gör nya genombrott inom området för djupinlärning.» Men den mest omedelbara fördelen med teknik för känsloläsning kan vara för företag som försöker sälja saker. Systemet SenseR tillåter till exempel återförsäljare att anpassa upplevelsen i butik. Datorer tittar på och analyserar kundernas uttryck och kroppsspråk. Anställda kan använda resultaten för att knuffa en försäljning i rätt riktning när de uppmanas av butikssäljare, sa Fariha Rizwan, en IT- och PR-expert, till Lifewire i en e-postintervju.
«Från en detaljhandelsanalyssynpunkt kan användningen av maskinseende för att spåra mänskliga shoppare ge en återförsäljare insikter om varaktighet för butiksengagemang, intressenivåer baserade på värmekartor, butiksresor och shoppars demografi,» tillade Rizwan.
Vem äger dina känslor?
När företag i allt högre grad vänder sig till AI för att läsa känslor finns det många potentiella integritetsfällor. Teknik för ansiktsigenkänning som driver känsloläsningssystem tenderar att fungera på offentliga och privata platser utan samtycke från de personer som spåras, sparar deras data och ibland säljer dessa data till högstbjudande, sa Rizwan. «Vi vet inte heller i vilken utsträckning dessa system är skyddade från cyberattacker, vilket potentiellt kan placera en persons ansiktskarta i händerna på en dålig skådespelare,» tillade Rizwan. «Dessa farhågor har initierat en förändring av förbättrad övervakning, övervakning, avslöjande av integritet och ansvarsskyldighet.» De största integritetsproblemen är inte relaterade till AI utan snarare de underliggande ramverken och reglerna för informationsdelning som redan finns på plats, hävdade Monsurate. Om företag kan tjäna pengar på din data och använda den för att manipulera ditt beteende, så kommer förståelsen av ditt känslomässiga tillstånd att hjälpa dem att göra det bättre. «Vad vi behöver är lagar för att motverka detta beteende i första hand oavsett vilka verktyg de använder för att uppnå sina mål,» tillade Monsurate. «Det är inte verktygen, men de dåliga aktörerna och våra nuvarande integritetslagar är bedrövligt otillräckliga.»