Шефът на Instagram предупреждава: съдържанието, генерирано от AI, ще направи „автентичността“ ключов проблем за креативните
Adam Mosseri, ръководител на Instagram в Meta, заявява, че нарастването на AI-генерираното съдържание ще превърне проверката на автентичността в един от основните проблеми през следващата година. По думите му, с подобряването на моделите ще става все по-трудно да се различава синтетично от реално съдържание, което пряко засяга креативните професии и доверието в публикациите.
В публикация в Threads Mosseri твърди, че това, което е правело създателите значими — „да бъдат истински“, да се свързват с аудиторията и да имат неподправим глас — вече може да се имитира от всеки с подходящите инструменти. Според него фийдовете започват да се пълнят със „синтетично всичко“.
Защо различаването на AI съдържание става по-трудно
Част от AI-генерираните изображения и видеа все още издават произхода си чрез дефекти, артефакти и характерен „лъскав“ вид. Mosseri обаче очаква това да се променя, тъй като моделите стават по-добри в пресъздаването на по-естествени и по-малко стилизирани визуални резултати.
Той посочва, че Meta продължава да работи по разпознаване на AI-генерирани медии, но прогнозира, че с напредъка на технологията платформите ще се затрудняват все повече да откриват синтетичното съдържание само по външни признаци.
От „лов на фалшификати“ към маркиране на реалното
Според Mosseri може да се окаже по-практично да се обозначава автентичното съдържание, вместо да се опитва да се идентифицира всяка AI имитация. Той говори за идея „реалните“ материали да имат вид „пръстов отпечатък“ (fingerprint), който доказва произхода им.
Като възможен механизъм Mosseri дава пример с производители на камери, които могат да „криптографски подписват“ снимките още при заснемане, създавайки верига на произход (chain of custody). Подобни подходи вече се развиват чрез Content Authenticity Initiative (CAI) и Coalition for Content Provenance and Authenticity (C2PA), които предвиждат метаданни, устойчиви на манипулации. Практическият въпрос е дали и как платформи като Meta/Instagram ще могат надеждно да разчитат и визуализират тази информация.
Ролята на Content Credentials и какво става с илюстраторите
Mosseri акцентира основно върху снимки и видео, но въпросът за произхода важи и за илюстрации и дигитално изкуство. В тази посока съществуват решения като Content Credentials в Adobe, които могат да удостоверяват автентичност и произход на даден файл. За да има ефект за аудиторията, платформите трябва да могат да четат тези данни и да ги представят ясно в интерфейса.
Паралелно с това Meta вече е опитвала да сигнализира AI-генерирани медии чрез етикет „AI info“, но според наблюденията на Mosseri и реакциите на общността голям обем съдържание остава немаркиран, а част от реалните материали се класифицират неправилно.
„Докажи, че си истински“: какво предлага Mosseri на креативните
Докато платформите търсят по-надеждни методи за идентификация, Mosseri насочва вниманието към поведението на създателите. Тезата му е, че AI и камерите в смартфоните са направили „професионално изглеждащото“ изображение масово и евтино, което го обезценява като сигнал за качество и автентичност.
Той критикува стремежа на производителите на камери и телефони към „полирана“ естетика — повече мегапиксели, повече обработка и ефекти като портретен режим, който имитира плитка дълбочина на рязкост. В този контекст Mosseri прогнозира ускоряване на „по-сурова“ визуална линия: по-малко обработка, по-малко ласкаещи кадри, повече несъвършенства като знак, че съдържанието е истинско.
За художници, дизайнери и други творци това означава промяна във фокуса: вместо да публикуват само финалния резултат (крайни рендъри и „перфектни“ версии), да показват процеса — кадри зад кулисите, work-in-progress, етапи на работа и контекст, който е по-труден за фалшифициране.
Какво означава това
- Натискът върху креативните расте: докато автоматичното разпознаване изостава, авторите вероятно ще трябва активно да доказват произхода на работата си.
- Метаданните и подписването стават важни: стандарти като CAI и C2PA, както и Content Credentials на Adobe, могат да се превърнат в ключов слой за доверие, ако платформите ги поддържат.
- „Суровата“ естетика може да се превърне в нов стандарт: по-малко обработка и повече „несъвършенства“ като сигнал за реалност и човешка намеса.
- Повече процес, по-малко витрина: съдържание тип behind-the-scenes и работни версии може да стане по-важно от финалните кадри.
- Доверието във фийда става конкурентно предимство: профили и платформи, които предлагат по-добра проверка на произхода, може да печелят аудитория.
