Співпраця Black Forest Labs і Ілона Маска: новий інструмент генерації зображень AI на платформі X
Компанія Ілона Маска Grok випустила нову функцію генерації зображень на базі штучного інтелекту, яка, як і чат-бот AI, має дуже мало обмежень. Це означає, що користувачі можуть створювати фейкові зображення, наприклад, Дональда Трампа, який курить марихуану на шоу Джо Рогана, і завантажувати їх безпосередньо на платформу X. Але, як виявилося, саме стартап Black Forest Labs, а не сама компанія Маска, стоїть за цією суперечливою функцією.
Співпраця між xAI і Black Forest Labs була розкрита, коли xAI оголосила про використання моделі FLUX.1, розробленої Black Forest Labs, для генерації зображень у Grok. Цей стартап, що базується в Німеччині і розпочав свою діяльність 1 серпня 2024 року, поділяє погляди Маска на Grok як на “анти-воук чат-бот”, без суворих обмежень, які присутні в аналогічних рішеннях від OpenAI або Google.
Black Forest Labs нещодавно вийшов із “стелсу” з початковим фінансуванням у $31 мільйон, очолюваним Andreessen Horowitz. До інших відомих інвесторів входять генеральний директор Y Combinator Гаррі Тан та колишній генеральний директор Oculus Брендан Іріб. Засновники стартапу, Робін Ромбах, Патрік Ессер та Андреас Блаттман, раніше працювали над моделями Stable Diffusion від Stability AI.
Стартап заявляє, що їхні моделі доступні для широкої аудиторії, а також вони планують створити текстово-відеомодель у найближчому майбутньому. Однак відсутність обмежень у новій функції викликала критику, оскільки багато зображень, створених за допомогою Grok, не можна відтворити на інших платформах через їхній суперечливий або образливий зміст.
Oh my god. Grok has absolutely no filters for its image generation. This is one of the most reckless and irresponsible AI implementations I've ever seen. pic.twitter.com/oiyRhW5jpF
— Alejandra Caraballo (@Esqueer_) August 14, 2024
It looks like Grok’s AI image generator is here. And yes, as expected, very few safeguards pic.twitter.com/AB3IO7A3Dc
— Max Zeff (@ZeffMax) August 14, 2024
Відсутність захисних механізмів може стати серйозною проблемою для Маска. Платформа X вже зіткнулася з критикою через поширення дезінформації та AI-згенерованих фейкових зображень, що може призвести до ще більших проблем у майбутньому. Незважаючи на це, Маск, здається, налаштований продовжувати цю лінію, відстоюючи ідею, що обмеження на AI-моделі можуть зробити їх менш безпечними.
Таким чином, співпраця між Grok і Black Forest Labs може мати значний вплив на те, як інформація поширюється на платформі X, відкриваючи нові можливості для генерації контенту, але також створюючи серйозні ризики для поширення дезінформації.
Джерело: techcrunch.com
