Все по-често задаваме на AI въпроси, които преди задавахме на хора.

• Кой хотел да избера за ваканцията си в Рига?
• Коя кола отговаря на нуждите ми на работеща жена?    
• Кой университет да избере синът ми?

И AI отговаря.

С повече думи от мъж, с по-малко от приятелка на кафе, но всеки път уверено. Често с аргументи. Все по-често с подредена класация на възможностите и много опити да идентифицира дали се движи в желаната от теб посока.

И  с времето това ни създава една много човешка илюзия: че отсреща има някой, който прави преценка.

НО няма!

Поне не по начина, по който досега сме разбирали преценката. Човекът, който ни препоръчва ресторант, внедрява емоция в препоръката . Може да харесва атмосферата, да не харесва обслужването, да си спомня страхотен обяд там отпреди три години или просто да е приятел на собственика или готвача. Препоръката неизбежно е субективна, свързана с опит, памет, ценности, емоции и личен вкус. AI няма нито едно от тези неща в човешкия смисъл.

И въпреки това може да каже:

„Препоръчвам ти...хотел А пред хотел Б за твоя рожден ден.“

Тогава какво всъщност се случва?

Ние много лесно виждаме човек там, където няма човек. Хората имаме силна склонност към антропоморфизиране – да приписваме човешки характеристики, намерения или емоции на нечовешки обекти и системи. Убедени сме, че боговете са човекоподобни. Извънземните са човекоподобни. Животните в приказките “говорят с човешки глас”. Ние просто имаме потребност непознатото да прилича на нас.

И точно върху това стъпва възприятието ни за Generative AI.

Той разговаря с нас на естествен език. Помни контекста на разговора. Използва фрази като „бих препоръчал“ или „мисля, че по-добрият вариант е“. Може да обясни препоръката си по начин, който много прилича на човешки разговор.

Изследване върху начина, по който хората възприемат ChatGPT, показва точно това противоречие: в интервюта с 20 потребители изследователите установяват, че хората често възприемат системата като човекоподобна и успокояваща, но в същото време разбират, че отговорите ѝ нямат личните убеждения, емоции и субективна позиция, които обикновено стоят зад човешкото мнение. Интересно е и че по-неопитните потребители са по-склонни да възприемат неочакваното поведение на модела като автономно действие, а не като грешка.

Това разграничение е важно.

Да звучиш като мнение не е същото като да имаш мнение.

ChatGPT не се събужда сутрин с решение, че една ПР агенция е по-добра от друга. Няма любим хотел.Не се възхищава тайно на една автомобилна марка. Няма личен опит с твоята компания.

Това, което има, е модел, който е научил закономерности от огромни количества данни и може да генерира следващата част от отговора въз основа на тези закономерности и контекста на разговора.

Това звучи много по-малко мистериозно. И прави следващия въпрос много по-интересен.

Ако няма мнение, как избира?

Особено, когато въпросът не е “Коя е най-голямата компания в сектора?” - чисти данни, лесни за интерпретация. 

А когато въпросът е: “Коя компания ще ми допадне като ме познаваш? Тук препоръката става интересна.

Едно изследване от 2024 г., публикувано в Journal of Retailing and Consumer Services, изследва как препоръките на ChatGPT влияят върху избора на потребителите.

В изследването участват 443 души, като изследователите сравняват препоръките на ChatGPT с препоръки от традиционни AI системи за препоръки.

Резултатът е интересен: продуктите, препоръчани от ChatGPT, са по-склонни да попаднат в consideration set – сравнително малката група от продукти или марки, които човек реално разглежда, преди да вземе решение.

Изследователите установяват и нещо друго: познаваемостта на марката има значение. Влиянието на AI препоръките е особено интересно при марки, които потребителят познава по-слабо. Помислете какво означава това.

AI не е задължително да ви убеди да купите нещо.

Може просто да е достатъчно да го постави на масата.

Ако попитам:

„Кои са най-добрите компании за X?“

и компания А се появи в отговора, а компания Б не се появи, решението ми вече е променено. Може изобщо никога да не стигна до проучване на компания Б.

Препоръката тихо е променила набора от възможности, които разглеждам.

А това е много различна роля от търсенето. Търсенето ни дава възможности. Препоръката ни дава рамка.

В продължение на години интернет ни учеше да търсим. Помните ли, когато пишехме отделни думи, съединени с + ? Знаете ли, че все още много милениали го правят?

Пишем ключови думи. Получаваме резултати. Отваряме няколко линка. Ако са внедрени за SEO оптимизация, излизаме и се ядосваме.

Сравняваме.

Отговорността да разберем информацията и да вземем решение остава до голяма степен наша.

Разговорният AI променя интерфейса.

Вместо да питаме:

„Каква информация съществува?“ можем да попитаме:

„Кои данни имат отношение към моя индивидуален избор?“

И вместо десет резултата можем да получим кратко обяснение и три имена. Това не е просто по-бързо търсене. Това е различна връзка с информацията. Системата вече не ни помага само да намерим възможностите. Тя ни помага да ги стесним. А именно в стесняването започва влиянието.

Тогава какво всъщност стои зад препоръката?

Ако зад препоръката няма лично предпочитание, нещо друго трябва да определи коя компания ще се появи.

Отговорът не е един-единствен фактор.

Един голям езиков модел е научил статистически връзки между думи, понятия, обекти и различни модели в данните, върху които е обучен.

Когато му зададем въпрос, той генерира отговор въз основа на тези научени закономерности, комбинирани с конкретния контекст и инструкциите в разговора.

Така че когато питаме:

„Коя е най-добрата компания?“

не караме модела да отвори някаква скрита класация, наречена BEST_COMPANY. Няма такъв списък, който стои някъде в машината. Вместо това моделът конструира отговора.

А големият въпрос на следващите месеци (при тази скорост на развитие едва ли имаме години) е: какво точно влияе върху тази конструкция и как да го управляваме?

• Каква информация съществува?
• Колко често и в какъв контекст се появява дадена компания?
• Какви източници и описания са свързани с нея?
• Как е представена самата категория?
• Какво точно пита потребителят?
• Как е формулиран въпросът?
• Какви характеристики моделът свързва с конкретния избор?

А в зависимост от системата и режима, които използваме, отговорът може да бъде повлиян и от допълнителни механизми като извличане на информация, резултати от търсене, инструменти и актуално съдържание от интернет.

И точно затова на пръв поглед простият въпрос:

„Защо AI препоръча тази компания?“

всъщност е доста труден.

Отговорът не е непременно: „Защото AI смята, че тя е най-добрата.“

По-скоро: „Защото при този въпрос и при информацията и закономерностите, достъпни за системата, тази компания е изглеждала като възможен отговор.“

Разликата изглежда малка.

НО не е. Защото един възможен отговор може да има съвсем реални последствия.

Интересното не е, че AI има мнение. Той няма нужда от такова. Интересното е, че ние можем да възприемаме отговорите му като мнение. И вече действаме въз основа на тях.

Изследването от 2024 г. показва, че препоръките на ChatGPT могат да повлияят върху това кои продукти потребителите изобщо включват в разглеждането си, като ефектът е особено интересен при марки, които не са вече силно познати.

Затова може би въпросът, който трябва да си задаваме, не е: „Какво мисли AI за моята компания?“

А: „Достатъчно информация ли има да каже AI за моята компания – и защо би избрал точно нея?“

Това е съвсем различен въпрос.

Първата стъпка е да бъде зададен. 

Втората - да потърсим валидния отговор към днешна дата. 

И третата - да сме готови този отговор бързо и необяснимо за нас да се променя.