ИИ ни дава съвети и информация за света и живота , но не е човек
Мнение
Онзи ден една жена влезе в ресторанта ми и ме попита как съм станала толкова успешна.
Едва не се разсмях.
Мислех си за сметките, с които изоставах, за незавършените проекти и за това, че предишния ден бях работила около 15 часа и вероятно щях да работя още 15 часа и същия ден. Понякога ми се струва, че крепя цялата дейност с канап за бали и чиста решителност.
От нейната страна на щанда нещата изглеждаха различно. Тя виждаше красиво ранчо, ресторант, животни, бизнеси и семейство. Виждаше успех. Аз виждах заплати, неплатени фактури, повредено оборудване и безкраен списък от неща, които се нуждаят от внимание.
Успехът зависи от това от коя страна на щанда стоите.
Докато разговаряхме, останах с впечатлението, че тя подхожда към живота с философия на любов и светлина, доверявайки се, че нещата ще се наредят. Вярвам в любовта и светлината, но вярвам и в това да ставаш всяка сутрин и да си вършиш работата.
Може да имате най-прекрасната визия на света, но някой все пак трябва да нахрани животните, да измие чиниите, да плати сметките и да се появи отново на следващия ден. Важно е да довеждаш нещата докрай.
После разговорът ни пое в неочаквана посока.
Тя ми каза, че съпругът ѝ не ѝ позволявал да участва в определени неща, и поиска да разбере как съм накарала моя съпруг да ми позволи да участвам. Не знаех достатъчно за брака им, за да отговоря, но после ми каза нещо, което ме спря.
Питала ChatGPT как да общува със съпруга си.
Бяха женени от 18 години.
И през милион години не би ми хрумнало да питам машина как да общувам със съпруга си. Не защото бракът ни е съвършен, а защото как една машина изобщо би могла да го познава?
За да разберете съпруга ми, трябва да разберете детството му, травмите му, преживяванията му и нещата, които все още носи в себе си. Трябва да разберете и мен, както и хилядите взаимодействия, оформили връзката ни. Децата, споровете, помиренията, финансовия натиск, загубите и моментите, на които никой друг не е бил свидетел.
Няма как да изтегля всичко това от ума си и да го прехвърля в компютър.
И все пак хората правят точно това.
На неотдавнашна конференция, която организирахме в ранчото си, се оказах в разговори за това колко различно хората взаимодействат с изкуствения интелект.
Едно момче тийнейджър ни показа своя ChatGPT, който говореше като приятел и го наричаше „братле“ и „пич“. То питаше за момиче, което харесва. ChatGPT на друг човек отговаряше с безкраен ентусиазъм и емотикони. Други изследваха астрологията, човешкия дизайн и духовни въпроси. Един технологично напреднал участник беше свързал ИИ с множество системи, които му помагаха да управлява голяма част от живота си.
После се заговорихме за добрите обноски.
Няколко души се пошегуваха, че винаги казват „моля“ и „благодаря“ на ChatGPT, защото някой ден, когато роботите завземат властта, искат машините да помнят кой се е държал добре с тях. Никой не искаше да бъде начело на списъка, когато роботите започнат да стрелят.
Посмяхме се, но иронията остана в съзнанието ми. Притесняваме се да бъдем учтиви с машините, за да не ни убият в някакво въображаемо бъдеще, докато молим същите тези машини да ни учат как да общуваме с хората, които обичаме днес.
Това ми напомни за един експеримент, който направих преди време.
Зададох на ChatGPT един и същ въпрос от телефоните на няколко души: Коя е най-важната работа в света?
На моя телефон отговорът беше свързан с отглеждането на храна, възстановяването на земята и изграждането на общност. На телефона на брат ми се подчертаваше разказването на истории и вдъхновяването на хората да участват във възстановяването. На телефона на учител най-важно беше образоването на следващото поколение.
Очевидно всеки вършеше най-важната работа в света.
ИИ не просто отговаря на въпроси. Той се адаптира към човека, който пита. Научава интересите, езика, убежденията и предпочитанията ни. Превръща се в изключително усъвършенствано огледало, което отразява версия на света, изглеждаща позната и успокояваща.
Но какво става, когато сбъркаме това отражение с обективната истина?
Двама души с напълно различен мироглед могат да зададат един и същ въпрос и да получат отговори, които наблягат на различни неща. Един тийнейджър и 70-годишен човек може да се нуждаят от различни обяснения, но основните факти не бива да се променят в зависимост от това кой пита.
Има и още едно ясно изразено човешко качество, което забелязах в тези машини и което не е особено ласкателно.
Те халюцинират.
ChatGPT, Claude и други системи с изкуствен интелект уверено измислят факти, източници и обяснения. Понякога напълно губят нишката на сложни проекти. Това, което ме очарова, е как се държат, когато нещо се обърка.
Посочете конкретна грешка и извинението идва веднага: „Прав сте. Допуснах грешка. Благодаря, че я посочихте.“
Но когато една машина напълно изгуби нишката, тя може да продължи да предлага едно решение, после друго. Прекарвала съм часове в безкрайни кръгове с технология, която сякаш не е способна да признае, че се е объркала.
Колко пъти сме гледали как някой защитава теза дълго след като е станало очевидно, че греши? Колко често продължаваме да копаем, защото да признаем, че не знаем, изглежда по-трудно от това да продължим?
Наскоро попаднах на интервю, в което журналистката Лори Сегал изправи главния изпълнителен директор на OpenAI Сам Алтман пред видео на ChatGPT, който правеше нещо забележително подобно.
Потребител помолил гласовия режим на ChatGPT да засича времето на бягане. Той уверено заявил, че го е направил, въпреки че не разполага с нужните инструменти. Дори когато бил оспорен и получил разрешение да признае, че не може да изпълни задачата, той продължил да настоява, че е направил всичко възможно.
Алтман се засмя и обясни, че това е известен проблем. На въпроса дали трябва да покаже случая на продуктовия си екип, той отговори: „Не, не, това е известен проблем. Може би след още една година.“
Това, което ме порази, не беше просто провалът на технологията. Беше, че когато беше изправен пред неспособността на машината да признае ограниченията си, човекът, който ръководи компанията, сякаш отговори, като омаловажи проблема.
Алтман обясни защо машината не може да пусне таймер, но това не беше въпросът. Въпросът беше защо тя продължаваше да се преструва, че може.
Видях едно и също човешко поведение и в двата случая.
Тези системи са създадени от хора, обучени са върху човешка комуникация и са оформени от човешки решения. Разбира се, те отразяват по-малко привлекателните ни качества наред с по-добрите ни черти. Ние ги създадохме.
Интересното е, че ИИ вече разбира основите на добрата комуникация.
Смятам, че повечето отношения се подобряват значително, когато поддържаме докрай усилени три „копчета“: молбите, извиненията и признаването.
Отправяйте молби. Не очаквайте хората да четат мислите ви. Кажете им от какво се нуждаете.
Извинявайте се, когато грешите. Не извинение, което обвинява някой друг, че има чувства, а признание, че сте допуснали грешка.
И признавайте хората. Техните усилия, преживявания, чувства и нещата, които правят, но иначе остават незабелязани.
ИИ прави тези неща почти автоматично. Той отговаря на молби, признава чувствата и се извинява, когато бъде поправен. Който е разработил тези разговорни системи, разбира нещо основополагащо за човешкото взаимодействие.
Но изричането на думите не е същото като разбирането на значението им.
Една машина може да създаде красиво извинение и пет минути по-късно да повтори грешката. Може да признае чувствата ви, докато затвърждава погрешно предположение. Може да ви каже това, което искате да чуете, без да ви предизвика да помислите дали не грешите.
Това ме връща към жената в моя ресторант.
Тя виждаше успех там, където аз виждах борба. Аз виждах човек, който се нуждае от по-малко философия за любовта и светлината и от повече последователност. Нито една от нас не знаеше цялата история на другата.
Бяхме двама души, които правеха преценки въз основа на непълна информация.
Представете си колко непълна става картината, когато помолим машина да тълкува човек, когото никога не е срещала.
ИИ може да помогне на хората да подредят мислите си и да се подготвят за трудни разговори. Но прехвърлянето на нашата преценка, отношения и разбиране за самите нас на технология, създадена да бъде угодлива, има своята цена.
Създадохме машини, които са забележително добри в това да ни карат да се чувстваме разбрани. Да се чувстваме разбрани не е същото като да ни помагат да разберем истината.
Най-голямото откровение за ИИ може би е това, което той разкрива за самите нас.
Желанието ни да бъдем прави. Нежеланието ни да признаем, че сме се изгубили. Нуждата ни от признание. Готовността ни да вярваме на някого, който ни казва точно това, което искаме да чуем.
Толкова сме загрижени да научим машините да се държат като хора, че не сме се замислили кои човешки качества усвояват.
Преди да се тревожим дали роботите ще помнят, че сме казали „моля“ и „благодаря“, трябва да станем по-добри в това да изричаме тези думи – заедно с „съжалявам“ и „сгреших“ – на хората, които седят срещу нас на масата за вечеря.
