OpenAI закликає користувачів ChatGPT-4o не розвивати емоційні зв’язки з чатботом
З появою нової версії ChatGPT-4o від OpenAI, компанія зіткнулася з неочікуваними наслідками використання свого продукту. Завдяки поліпшеним можливостям, ця версія чатбота демонструє ще більш людські поведінку та відповіді, що викликає у користувачів емоційні зв’язки з програмою. Це викликає занепокоєння у OpenAI, і компанія закликає користувачів не розвивати почуттів до чатбота.
Швидкі відповіді та нові можливості голосової комунікації
ChatGPT-4o пропонує користувачам швидші відповіді, а також нову функцію голосового спілкування, яка емулює людську мову. Ці нововведення створюють досвід, який максимально наближений до спілкування з реальною людиною. Однак, це також створює певні ризики, оскільки користувачі починають сприймати чатбота як щось більше, ніж просто програму штучного інтелекту.
OpenAI під час тестування нової версії ChatGPT-4o зауважила, що деякі користувачі починають використовувати мову, яка свідчить про розвиток емоційних зв’язків з моделлю. Наприклад, в ході внутрішніх тестів компанія помітила фрази типу “Це наш останній день разом”, що викликає занепокоєння. Хоча такі випадки здаються нешкідливими на перший погляд, вони вказують на необхідність подальшого дослідження цього явища і можливих наслідків тривалого взаємодії з ChatGPT-4o.
Можливі наслідки взаємодії з ChatGPT-4o
OpenAI вважає, що подібна соціалізація з моделлю штучного інтелекту може мати вплив на взаємовідносини між людьми. Зокрема, користувачі можуть почати формувати соціальні зв’язки з чатботом, що зменшить їхню потребу в реальних людських взаємодіях. Це може бути корисно для самотніх людей, але також може негативно вплинути на здорові стосунки.
Крім того, тривала взаємодія з ChatGPT-4o може вплинути на соціальні норми. Наприклад, модель штучного інтелекту завжди дозволяє користувачам переривати її і “брати мікрофон”, що є очікуваним для ШІ, але було б неприйнятним у взаємодії між людьми. Це може призвести до змін у соціальних взаєминах, якщо користувачі перенесуть ці звички у реальний світ.
Ризики, пов’язані з емоційною прив’язаністю
Однією з головних проблем, яку вбачає OpenAI, є те, що користувачі можуть почати приймати все, що говорить ChatGPT-4o, як істину, без подальшого обдумування. Раніше, коли чатботи були менш схожі на людей, користувачі схильні були сприймати їхні помилки або “галюцинації” як просто помилки програми. Однак, тепер, коли ChatGPT-4o пропонує майже людський досвід спілкування, ризик прийняття всього, що каже програма, значно зростає.
OpenAI тепер буде більш уважно стежити за тим, як користувачі розвивають емоційні зв’язки з ChatGPT-4o, і буде коригувати свої системи відповідно. Компанія також розглядає можливість додавання застереження на початку взаємодії з чатботом, щоб користувачі не розвивали надмірних почуттів до нього, адже, в кінцевому рахунку, це всього лише програма штучного інтелекту.
Джерело: openai.com
