Защита от дипфейков

1 ноября. Generative Idea. 7-дневный курс, где мы в tweekly будем искать идеи для Generative AI-стартапов.

Компания Reality Defender, специализирующаяся на обнаружении подделок и фейков, привлекла $15M в рамках серии А финансирования. Reality Defender предлагает инструменты для обнаружения и борьбы с фэйк медиа, включая созданные искусственным интеллектом тексты, изображения, аудио- и видеоматериалы.

Reality Defender предлагает свои услуги компаниям, государственным учреждениям и другим корпоративным организациям в качестве средства распознавания фейков, созданных с помощью генеративного ИИ. Стартап утверждает, что благодаря мультимодальному подходу к работе ему удалось отловить миллионы фальшивок и предотвратить множество дезинформационных кампаний с момента своего запуска в 2021 году. Веб-приложение и API Reality Defender обучены собственными силами, чтобы точно определять манипуляции или фабрикацию медиа с помощью генеративного ИИ.

Вместе с финансированием Reality Defender представила новую функцию Explainable AI для своего инструмента обнаружения текста, сгенерированного искусственным интеллектом, который выделяет цветом текст для выделения синтезированных абзацев, обеспечивая наглядное представление о том, как работает система.

В настоящее время разрабатывается также функция Explainable AI для инструментов обнаружения аудио, изображений и видео. Кроме того, компания представила скрининг глубоких подделок в режиме реального времени для отдельных голосовых каналов, который позволит колл-центрам и службам мошенничества выявлять генеративные манипуляции в режиме реального времени.

В чем тренд?
В 2023 году фейками уже никого не удивишь, но что интересно в последнем отчете State of AI 2023 в прогнозах на 2024 год стоит сразу несколько похожий ситуаций. Они прогнозируют, что GenAI будет использоваться для создания спецэффектов голливудского уровня, генерируемая ИИ песня попадет в Top Hits 2024. А также, что из-за ИИ во время выборов в США в 2024 году произойдет крупный скандал.

Еще примеры.
Стартап Resemble AI, специализирующийся на синтетической речи, разработал функцию водяного знака для аудио, за ним последовали ElevenLabs и одна известная запрещенная в РФ компания. Resemble AI также пошла дальше, создав функцию Resemble Detect, которая может обнаружить поддельные голоса практически из любого источника. Pindrop, вероятно, также разрабатывает похожее решение.С текстовой частью дела обстоят несколько сложнее. Компания OpenAI выпустила инструмент для обнаружения текста, написанного искусственным интеллектом, под громкие аплодисменты, но через полгода после выпуска тихонько удалила его. И хотя компания Turnitin может похвастаться почти 100% точностью обнаружения написанного ИИ текста, а GPTZero утверждает, что с точностью определяет 99% статей, написанных человеком, и 85% статей, сгенерированных искусственным интеллектом, их заявления вызывают определенный скептицизм.

Как это применить?
Было бы круто, чтобы появился российский конкурент таких продуктов. Но это кажется под силам только гигантам. Так что единственный совет, не верьте всему, что видите, слышите, читаете. А в будущем возможно не стоит верить и запахам.

В чем тренд? Благодаря интернету доступность музыки для слушателя значительно повысилась, а вот создателям музыки все сложнее получать вознаграждение за свой труд. Поэтому авторы ищут возможности работать с сервисами, которые могут определить и выплатить им вознаграждение наиболее точно «по заслугам».

Недавно очередной раунд инвестиций в $5 млн., который возглавил Сэр Элтон Джон, получил проект Audoo — это стартап, разработавший «аудиомер», который можно устанавливать в магазинах розничной торговли и в других общественных местах для отслеживания воспроизводимой там музыки. Затем он передает эту информацию соответствующим организациям по сбору платежей, чтобы помочь им получить точные данные при расчете выплат авторам.

Audoo уже собрал $22 млн. инвестиций, а среди инвесторов в более ранних раундах у него Сэр Пол Маккартни и Бьорн Ульвеус из ABBA, что говорит об озабоченности вопросом справедливого вознаграждения даже звездных музыкантов.

А еще недавно инвестиции получил проект Beam for Music ($250 тыс.) — приложение, с помощью которого автор может прогнозировать свой доход от использования музыки на телевидении, радио или в кино.

Вероятно, что и дальше будут появляться сервисы, способные помочь создателем музыки монетизировать свой труд, но в противовес этому естественно будут появляться проекты, которые смогут помочь тому же бизнесу экономить на затратах, связанных с музыкальным оформлением. Естественно, в этом им сможет помочь ИИ. Например, на днях инвестиции получил проект Riffusion ($4 млн.) — бесплатный сервис, который позволяет пользователям описывать тексты песен и музыкальный стиль для создания «риффов» (коротких музыкальных отрывков), которыми можно поделиться публично или с друзьями.

Как это использовать?
Создавать проекты, помогающие авторам музыки и другого контента монетизироваться, либо идти с другой стороны и, например, сэкономить бизнесу затраты на создателей за счет ИИ созданного контента.

В чем тренд? Вопрос инвестиций уже стал довольно популярным среди среднестатического гражданина даже у нас в стране. Осведомленность граждан об инвестициях находится на достаточно высоком уровне — о различных инструментах инвестирования знают более 50% населения России. Но на практике инвестируют пока около 17% россиян.

Возможно, не последнюю роль здесь играет и определенная сложность в самом процессе инвестирования. Банки и брокеры максимально облегчили инвестирование в ликвидные биржевые инструменты, тем не менее, с увеличением осведомленности и желания людей инвестировать и диверсифицировать вполне может появиться спрос и на инвестиции в альтернативные биржевым активы.

В последнее время инвестиции получают проекты, которые помогают инвесторам вложить деньги в те компании, в которых раньше у среднестатистического человека поучаствовать не было возможности или это было крайне сложно:

• Stash ($40 млн.) — позволяет инвестировать минимальные суммы через дробление акций;
• Sandhill Markets — делает доступными инвестиции в акции таких компаний, как Notion, Stripe, Anduril, OpenAI, and Databricks, еще до их IPO;
• Hiive ($4,2 млн.) — создает маркетплейс акций частных компаний;
• DoneDeal ($800 тыс.) — платформа для продажи и покупки действующего бизнеса.

Как это использовать?
Делать сервисы для возможности максимально простого инвестирования в частный бизнес и стартапы или другие активы.

У нас в этом направлении уже работают: Rounds (инвестиции в малый и средний бизнес), Activo (коллективные инвестиции в коммерческую недвижимость), Deloshop (старейшая площадка для купли-продажи малого и среднего бизнеса).

Продолжение (тренды 4-10) и AI-инструменты читайте в tweekly pro. 990 руб. в месяц или 19800 руб. — пожизненная подписка

4. Когда не нужно загружать старые футболки на Авито. Новая логистика и аналитика для перепродажи одежды.

5. Модные ветеринарные клиники. Реорганизация ветеринарных услуг.

6. Агрегатор по квестам. Сочетания реального и виртуального взаимодействия.

7. Идеальный триггер для покупки. Способ поиска горячих лидов.

8. Добавь ментала в физический мирю. Как найти баланс между умом и телом.

9. Миллиард за расширение для браузера или бизнес на микрофичах. Улучшение уже существующих решений может быть ключом к успеху.

10. Кулинарные роботы. Автоматизация и персонализация на кухне.

+ AI-инструменты.

«Ситуация обычно ровно противоположна той, которую пишут в массовых СМИ» — это один из фундаментальных законов маркетинга. Вот и большинство американцев так считают.