Post

“Claude can now control your browser" 😬 Hvor meget kontrol tør du overlade til AI? 2 AI'er, samme opgave: “Kan du se ind i LinkedIn og finde ud af, hvad [en kontakt] har slået op?” Copilot i Edge kunne læse den side, jeg havde åben. Men den ville ikke selv navigere, søge eller åbne profiler. 1/n

2 reposts10 likes

Har lige set at de i USA oplever en bølge af udfordringer med folk der har givet AI agenter adgang til deres bank - eller forsøger at få adgang. Om det er hackere eller folk selv der har givet adgang ved jeg dog ikke. Men tænker vi er ved at være der, hvor det begynder at blive problematisk.

Claude i Chrome kunne godt. Men før den fik lov, kom der en advarsel (billede): Claude kan styre din browser. Du er selv ansvarlig for alle handlinger. Ondsindet kode på hjemmesider kan overtage dine instruktioner og stjæle dine data. Hvad gør en klog person så? 2/n

Kurt Lewin: Approach-avoidance conflict (i 1930erne): Det samme mål trækker og skubber på én gang. Jo tættere du kommer på beslutningen, jo stærkere bliver frygten. Men lysten vinder ofte alligevel. Adfærdsdesign: Thaler og Sunstein lærer os at fjerne friktion, så den gode adfærd bliver let. 3/n

Men friktion er ikke altid fjenden. Nogle gange er den det eneste, der får os fra Kahnemans hurtige System 1 over i det langsomme System 2, hvor vi faktisk tænker os om. Så vi har to meget forskellige opførsler fra de to AI'er: - Copilot: så meget friktion, at opgaven ikke kan løses. 4/n

- Claude: næsten ingen friktion, bortset fra ét meget tydeligt stop lige inden. Til hverdag arbejder jeg med kommunernes AI-storskalaprojekt på beskæftigelsesområdet om tale til tekst og AI-tolkning. Min tilgang er harm reduction. Og her kommer min provokation: 5/n

Absolut ingen. Eller i hvert fald så lidt som muligt. Min AI skal ikke generelt have kontrol i min browser. Jeg er "giv Claude én adgang af gangen"-typen. (Men jeg er også stolt mangeårig ejer af en fin sølvpapirshat)