К сожалению, сайт не работает без включенного JavaScript. Пожалуйста, включите JavaScript в настройках вашего браузера.

Гроза самозванцев и хакеров: как ИИ-модели Doppel защищают бизнес корпораций США

Основатели Doppel Кевин Тянь (справа) и Рахул Маддулури (Фото DR)
Основатели Doppel Кевин Тянь (справа) и Рахул Маддулури (Фото DR)
Основанный три года назад стартап Doppel разрабатывает ИИ-агентов, которые могут в автоматическом режиме находить и удалять фейковые аккаунты и рекламные объявления мошенников. Теперь предприятие привлекло новые инвестиции на $35 млн, чтобы помогать корпоративным клиентам бороться с киберпреступностью

По мнению Кевина Тяня, лучший способ борьбы против мошенничества с применением искусственного интеллекта еще и самый очевидный — натравить один ИИ против другого. Именно с таким планом в 2022 году он основал стартап Doppel, специализирующийся на защите от психологических атак. Пока киберпреступники для пущей эффективности своих схем осваивают и без того продвинутые ИИ-модели, аналогичные системы Doppel позволяют компаниям давать не менее жесткий отпор, — еще быстрее и эффективнее, чем раньше.

Фирма разрабатывает ИИ-агентов, которые представляют собой специальное программное обеспечение под особые задачи. Данные алгоритмы исследуют интернет, даркнет и социальные сети на предмет потенциально мошеннической активности, отмечают все от сайтов-подделок и фейковых пользовательских аккаунтов до мошеннических рекламных объявлений в Google, Instagram (принадлежит Meta, признанной в России экстремистской и запрещенной) и YouTube. Каждый день агенты Doppel сканируют 100 млн элементов подобных угроз, отсеивают безобидные объекты, а опасные рекомендуют платформам удалить. Тянь говорит, что точность системы составляет примерно 90% и модели постоянно совершенствуются.

Telegram-канал Forbes.Russia
Канал о бизнесе, финансах, экономике и стиле жизни
Подписаться

«Если для нагнетания атак всего за несколько центов с каждого заработанного доллара пользоваться ИИ могут злоумышленники, то на аналогичные траты со своей стороны должны быть готовы и мы», — рассказывает Тянь Forbes USA.

 

В начале мая стартап объявил о получении новых инвестиций на сумму $35 млн в ходе раунда финансирования во главе с Bessemer Venture Partners. Сейчас в бизнес вложено уже $55,5 млн и капитализация предприятия оценивается в $205 млн. Компанию Тянь учредил в 2022-м вместе с техническим директором Рахулом Маддулури, с которым познакомился в стенах Uber, работая над фирменным проектом по созданию летающих автомобилей Uber Elevate, и для Doppel свежее финансирование — это важное достижение. Изначально деловой тандем планировал бороться с мошенничеством в сфере NFT и помогать криптофирмам отслеживать и выявлять подделки. Но в 2023-м компания расширила клиентскую базу на другие отрасли.

На ранних этапах, чтобы выявлять тысячи потенциальных угроз и определять, какие из них по-настоящему опасны, стартап прибегал к услугам подрядчиков в странах вроде Филиппин и Индии. Однако в сентябре 2024 года выяснилось, что те же самые задачи под силу новым моделям OpenAI с функционалом «рассуждения». Подрядчиков руководство Doppel заменило системой новых ИИ-агентов и с их помощью автоматизировало 30% операций, связанных с безопасностью. Тянь утверждает, что ИИ-агенты в состоянии обнаруживать больше угроз, нежели люди, и это во многом изменило весь бизнес предприятия. «Команда живых сотрудников просто физически не сможет обрабатывать миллионы уведомлений каждый день, так что теперь эти решения у нас принимает ИИ-агент», — поясняет он.

 

В 2023-м с огромной волной атак боролась платформа для повышения продуктивности Notion: злоумышленники тогда распространяли среди корпоративных клиентов фейковые рекламные объявления, а в социальных сетях пытались выдать себя за генерального директора фирмы Ивана Чжао. В ряде случаев «[мошенники] брали нашу страницу с ссылкой для загрузки приложения, делали ее идентичную копию, создавали похожий домен, и при посещении такой страницы кажется, будто это портал Notion», — делится Даниэль Пюукёнен, руководящий в Notion отделом безопасности.

Поэтому платформа обратилась за помощью в Doppel. Фирменные ИИ-агенты справились с теми кампаниями в два счета, удалив тысячи элементов. Со временем частота атак на Notion постоянно снижается. «Мы стали очень дорогой мишенью», — отмечает Пюукёнен.

Секретным ингредиентом Doppel является «график угроз» — своеобразная карта отношений и взаимодействий между кампаниями психологических атак, куда заносятся телефонные номера, IP-адреса, рекламные учетные записи. Подобный инструмент позволяет стартапу лучше отслеживать хакеров-злоумышленников, которые ради повышения эффективности пользуются искусственным интеллектом, и ограждать от атак в будущем целые предприятия. «Мы хотим дать хорошим парням такой же обзор, чтобы не приходилось бороться с отдельными случаями, а можно было закрыть инфраструктуру злоумышленников вообще», — подчеркивает Тянь.

 

По словам гендиректора, к настоящему моменту фирма привлекла около 180 корпоративных клиентов, включая United Airlines, OpenAI, Coinbase, и увеличила среднегодовую выручку втрое. Кроме того, появились заказчики в нефтегазовом секторе, сфере финансов и страхования, и для этих отраслей представлен отдельный комплекс профильных ИИ-агентов. «Нас поразил их охват клиентов первой величины за пределами IT-индустрии», — признается партнер Bessemer Venture Partners Эллиот Робинсон.

С искусственным интеллектом киберпреступникам стало еще проще осуществлять новые виды психологических атак, и теперь они не ограничиваются одними лишь фишинговыми письмами с опасными ссылками на электронную почту. Сегодня в их число входят различные тактики типа сообщений от аккаунта, выдающего себя за генерального директора компании, который просит срочно перевести ему деньги, фейковых профилей на LinkedIn, собирающих приватные данные, и даже правдоподобных ловушек в виде корпоративного сайта. В 2024 году Google удалил со своей платформы 40 млн мошеннических рекламных аккаунтов. Многие из них размещали сгенерированные искусственным интеллектом изображения и аудиозаписи публичных фигур и бизнесменов с целью обмана и продвижения мошеннических схем. В период с апреля 2024-го по апрель 2025-го корпорация Microsoft пресекла попытки мошенничества, на которых ее клиенты потерпели бы убытки в размере $4 млрд, и заблокировала 1,6 млн попыток регистрации ботов на своей платформе Azure.

Нынешнюю дилемму Тянь сравнивает с той, которая встала перед Томом Крузом в фильме «Миссия невыполнима: Смертельная расплата» — вышедшая из-под контроля ИИ-система, стремящаяся исказить реальность и захватить мир. «В том фильме ИИ — отрицательный персонаж. Он может выдать себя за кого угодно, генерировать фейковые новости, манипулировать целым обществом через ложные нарративы в цифровом пространстве», — рассуждает предприниматель. Бизнес Doppel он считает возможностью «построить компанию, которая решит одну из главных проблем в сегодняшнем мире — психологические атаки посредством ИИ».

Перевод Forbes.com

Наименование издания: forbes.ru

Cетевое издание «forbes.ru» зарегистрировано Федеральной службой по надзору в сфере связи, информационных технологий и массовых коммуникаций, регистрационный номер и дата принятия решения о регистрации: серия Эл № ФС77-82431 от 23 декабря 2021 г.

Адрес редакции, издателя: 123022, г. Москва, ул. Звенигородская 2-я, д. 13, стр. 15, эт. 4, пом. X, ком. 1

Адрес редакции: 123022, г. Москва, ул. Звенигородская 2-я, д. 13, стр. 15, эт. 4, пом. X, ком. 1

Главный редактор: Мазурин Николай Дмитриевич

Адрес электронной почты редакции: [email protected]

Номер телефона редакции: +7 (495) 565-32-06

На информационном ресурсе применяются рекомендательные технологии (информационные технологии предоставления информации на основе сбора, систематизации и анализа сведений, относящихся к предпочтениям пользователей сети «Интернет», находящихся на территории Российской Федерации)

Перепечатка материалов и использование их в любой форме, в том числе и в электронных СМИ, возможны только с письменного разрешения редакции. Товарный знак Forbes является исключительной собственностью Forbes Media Asia Pte. Limited. Все права защищены.
AO «АС Рус Медиа» · 2025
16+
OSZAR »