В связи с трагедией в Крокус Сити Холле (Crocus City Hall), интернет наводнился различными фейками и вбросами разной направленности. Один из таких вбросов меня заинтересовал, так как некоторым образом схож с моими интересами, в частности я учусь использовать ИИ для иллюстраций.
Некая Ольга Ускова (президент компании Cognitive Technologies) выдала результаты анализа действий террористов из Крокус Сити Холла неким искусственным интеллектом ИППОЛИТ 1.0.
|
| Cognitive Technologies занимается автопилотами для тракторов |
Если вы попробуете найти в поисковых системах "ИППОЛИТ 1.0", то не найдете. Тут же возникает вопрос: а он есть? Предлагаю результаты ИППОЛИТА 1.0 разобрать на цитаты и проанализировать. Лучше разберем весь пост Ольги Усковой
АНАЛИЗ ОТ СИСТЕМЫ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА ИППОЛИТ 1.0
Чтобы не было обвинений в Теории Заговора, я решила пропустить открытые новостные международные и российские ленты через ИИ Ипполит. Конечно, это просто математическая система и еще очень не совершенная. Но в ней эмоциональный окрас отсутствует. Вот выводы "Ипполита":
Если через Ипполита пропустить зарубежные и российские новостные ленты, это значит, что Ипполит имеет возможность перевода текста статей. У него встроенный переводчик или он использует сторонние API? Его переводчик корректный или тоже имеет огрехи.
Можно предположить, что Cognitive Technologies помимо разработок автопилотов занимается развитием систем искусственного интеллекта, но из цитаты выше, видно, что замашки Ипполита на уровне Яндекса или Гугла. Но что-то мне подсказывает, что это не так.
Как кстати пропускались статьи? Поштучно или имеется какой-то краулер? Если поштучно, то тут уже человеческий фактор вкрадывается. Если допустим какая-то статья не нравится Усковой, она может ее не загрузить в Ипполит 1.0. Как она загружала новостные ленты неизвестно.
Характерные черты происшедшего теракта в Крокусе и реакции на него:
1) Характер теракта, когда схема реализуется не одурманенными наркотиками шахидами, а людьми, считающими, что они выживут и спасутся бегством, говорит об исключении версии с ИГИЛ
Данный вывод ИИ говорит нам о том, что Ипполит обучен не только производить анализ статей, но он обучен на спецификах различных организациях, в том числе террористических. Т.е. кто-то когда-то загружал данные об ИГИЛ* в Ипполит 1.0, а потом еще верифицировал эти данные.
И это мы говорим только об одной организации, а сколько народов в мире. Вы понимаете объем работ по обучению подобной ИИ, а еще какие нужны мощности, сколько времени и денег.
2) Скорость реакции на фейк про ИГИЛ центральных американских и британских новостных каналов говорит, что вероятно этот фейк и был ими заготовлен. То есть они авторы дезинформации, которая им очень выгодна.
Под скоростью реакции, вероятно, имеется ввиду дельта по времени публикаций статей. Хотелось бы загрузить в Ипполит две статьи и спросить его какая раньше вышла по дате. Тут даже ИИ не нужен, мы тем самым проверим краулер и парсер.
Для Ипполита "скорость реакции" непонятно чем определяется, точнее непонятно каким временным промежутком. Он фиксированный или абстрактный. Ну, то есть ответ может быть: 4 часа. Возникает вопрос почему 4 часа, а не 4 дня.
3) Тотальное отрицание участия в теракте со стороны Украины и США и предложения версии с ИГИЛ может говорить о высокой вероятности участия именно этого дуэта.
Вероятно, это что-то из психологии, хотелось бы увидеть объяснение почему. И кстати если мы говорим о "просто математическая система и еще очень не совершенная", то хотелось бы увидеть конкретную вероятностную оценку данного утверждения. Нужна конкретная цифра, "высокая вероятность" это слишком абстрактно.
4) Переключение западной новостной ленты с ИГИЛ на версию "Bloomberg: Самый смертоносный за последнее десятилетие теракт в Москве разрушил иллюзию безопасности, которую Владимир Путин старательно культивировал в течение двух с лишним лет после начала полномасштабного конфликта на Украине."
Свидетельствует о переходе на СМИ план "В" - Украина эффективна, Путин слаб. Нужно дать Украине денег, она добьёт Россию.
Ипполит сослался на статью Bloomberg "Putin Rejected Terror Alert Before Deadliest Attack in Decades" однако он не привел примеры других статей из западной новостной ленты. Судя по всему мы должны поверить на слово. Для убедительности неплохо было бы привести 2-3 статьи с похожим текстом, но из разных источников.
Есть план "B", а какие есть еще планы?
5) масштабные вбросы по соцсетям панических агитматериалов в течении всей ночи, говорит о системном подходе принятом для британских и американских спецслужб. ИГИЛ никогда так не работал.
Этот пункт потрясающий! Cognitive Technologies обучала ИИ Ипполит 1.0 на методиках работы иностранных спецслужб и террористических организациях. Напоминаю, что Cognitive Technologies занимается разработкой автопилотов для тракторов. И чтобы Ипполит корректно выдавал результаты, ИИ обучался на корректных методиках спецслужб, а не выдуманных с потолка. Тут все в куче и трактора, автопилоты, спецслужбы, ИГИЛ...
6) выбор таджиков в качестве исполнителей теракта может носить и вторую цель: дестабилизацию внутренней ситуации за счет обострения отношений населения с мигрантами.
Вот такие выводы от Ипполита на 11.20 по Москве
Т.е. Ипполита обучили на неких научных материалах о взаимоотношениях различных этносов и представителей культур в стране. Это должна быть масса научных трудов загружена в Ипполит и проанализирована.
Вывод
Чтобы Ипполит 1.0 мог выполнять подобные аналитические работы, он должен быть разработан с привлечением огромного количества ресурсов: денежных и временных. Могла ли это сделать Cognitive Technologies?
Ипполит 1.0 мог быть обучен на низкокачественных ИД (исходных данных), например выдуманных или основанных на личном мнении. А может Ипполит это фейк?
Возможно Cognitive Technologies как-то связана с российским спецслужбами и трактора это прикрытие. Возможно даже у этой компании есть деньги на подобные проекты, но вы проверить это сможете.
Как упрощенно работает ИИ
Выстраивается математическая структура ИИ, в которой есть нейроны со связями. Информация, на которой происходит обучение, поступает на вход ИИ и разбивается на мелкие части, пройдя через всю сеть, коэффициенты связей и нейронов некоторым образом модифицируются.
Исходных данных должно быть ОЧЕНЬ много и они должны быть корректны. Это я к слову о работах спецслужб и других организаций. Т.е. это должны быть научные исследования и подтвержденные разведданные, если мы говорим в контексте заметки.
Исходных данных должно быть не просто много, а они еще должны быть разнообразны иначе получится эффект переобучения, когда ИИ начинает давать не вероятностные оценки, а подгоняет результат.
И конечно постройка структуры нейросети сопровождается ошибками и выбором неправильной структуры сети в целом или отдельного слоя.
Основано на личном опыте постройки классификатора.
P.S. развивайте критическое мышление
*ИГИЛ - запрещенная в РФ террористическая организация.
Комментариев нет:
Отправить комментарий