Новий функціонал Gemini по виявленю згенерованих штучним інтелектом відео
В Google розповіли про новий функціонал своєї нейромережі Gemini 1.5, який виявився корисним для виявлення створених штучним інтелектом відеороликів. Під час тестування мовній моделі Gemini вдалося не лише виявити підробне відео створене нейромережею, а й пояснити причини його помилок зрозумілою мовою.
У ході експерименту нейромережа Gemini 1.5 була залучена для аналізу відеоролика, створеного нейромережею Sora від OpenAI. Незважаючи на високий рівень реалістичності відео, Gemini 1.5 змогла виявити ряд серйозних невідповідностей, які були важко помітити людині.
Відеоролик, що показує вулицю в Японії, був підданий аналізу. По-перше, Gemini 1.5 виявила невідповідності у часі року та демонстрації цвітіння сакури: насправді цвітіння сакури спостерігається лише весною в теплу погоду, коли сніг уже розтанув. Крім того, незважаючи на сильний снігопад, люди на відео були одягнуті надто легко.
За висновком Gemini 1.5, відеоряд мав привабливий вигляд, але виявлені невідповідності свідчили про його штучне походження. Подібні результати нейромережа виявила й у випадку інших аналізованих зразків. Наприклад, при аналізі відео з котом, Gemini 1.5 помітила, що у тварини незвичайно великі очі та “занадто досконала” текстура шерсті. В майбутньому такий інструмент може стати корисним для виявлення діпфейків.
