Эксперт, защищающий детей от плохого интернета называется...

Порноаналитик - есть такая работа. Эксперт-порноаналитик о безопасности детей в интернете, социальных сетях и возможностях современного антивируса с использованием нейросетей.

У эксперта-порноаналитика «Лаборатории Касперского» Анны Ларкиной необычная специальность, по которой она работает уже 10 лет. Данная специальность стала актуальной после появления в антивирусе компании модуля «Родительский контроль» - модуля, при помощи которого вы можете уберечь своих детей от чрезмерного использования компьютера и гаджетов и негативного влияния интернета. Чтобы задать параметры для фильтрации сайтов по определенному содержанию, потребовался эксперт, в обязанности которого входило выявление в Сети порнографического и эротического контента, объявлений о продаже оружия и наркотиков, видео и фото со сценами насилия и многого другого. В интервью Анна Ларкина рассказала о последних тенденциях в сфере небезопасного контента, возможностях современных нейросетей и о том, что больше всего удивило её за 10 лет работы.

— Как выглядело объявление о приеме на работу?

— Предлагалась должность специалиста по контент-анализу.


— На собеседовании вам сразу сказали, чем предстоит заниматься?

— На прежней работе я занималась отфильтровыванием недобросовестных объявлений работодателей и резюме. В общих чертах эти работы похожи: нужно по определённым параметрам отфильтровать определённый контент. На встрече меня спросили, как я отнесусь к тому, что мне придётся иметь дело со специфическим контентом — порнографией, наркотиками, насилием. Я ответила: «Нормально».


— И теперь в вашу «юрисдикцию» входит порно, эротика, насилие, наркотики и оружие?

— И ещё 85 параметров. Но перечислять их вряд ли нужно. Они связаны с защитой, которые предлагает «Лаборатория Касперского».


— Вы уже столько лет анализируете довольно специфический контент. Думаю, сейчас вы хорошо разбираетесь в тенденциях, например, порно. Что нового появилось в этой области за прошедшее десятилетие?

— Здесь, скорее, речь о том, как подобный содержание проявляется в интернете. Например, в 2018 году любители «фурри» (люди, интересующиеся антропоморфными животными и идентифицирующие себя с ними) начали использовать для создания порноконтента символ чемпионата мира по футболу 2018 года — волка Забиваку. Мы отлавливали в Сети контент, содержавший талисман с подрисованными частями тела, и обучали наших роботов в дальнейшем блокировать подобное творчество при работе модуля «Родительский контроль».


— Робот сможет отличить грудь Венеры Милосской от груди девушки Венеры из, например, Рима?

— Дело в том, что робот анализирует не только изображение, но и окружающий контент, и код сайта. Вряд ли рядом с Венерой Милосской будет написано: «Жена у соседа без СМС». Конечно, обнаженную натуру произведений искусств наши решения не блокируют.


— А есть вещи, которые очень сложно определить?

— Есть сайты, на которых нет никакого содержания, кроме картинки с условным названием JPG001. Там не за что зацепиться — это сайт, на котором есть одна картинка с порно. Может, это временный сайт или сайт в разработке. Вот такие определить тяжелее. Но это крайне редкая история. Скорее всего, на сайте будет хоть одна ссылочка, которая выдаст его. Был один интересный случай, когда у совершенно обычного безобидного магазина по онлайн-продаже цветов в коде было зашито описание всей возможной порнографии, которая существует. Все жанры, все категории — сплошным текстом. А внешне он выглядел абсолютно нормально. Мы до сих пор так и не поняли, для чего это было сделано. Для нас это было ложное срабатывание. Возможно, создатели магазина сами сделали это, чтобы таким крайне сомнительным способом подняться в выдаче поисковых систем. А может, их просто взломали конкуренты.

— Что можно назвать самым ярким из увиденного? Вас ещё можно чем-то удивить?

— Когда-то, в самом начале работы, меня совершенно поразила порнография с участием Лунтика (персонаж мультфильма «Приключения Лунтика и его друзей»). Это был шок. В какой-то момент сильно удивил шведский сайт, где были выложены фотографии женщин в гипсе. Они были одеты, у одной сломана рука, у другой — нога. По описанию на сайте можно было понять: фото предназначены для того, чтобы мастурбировать, глядя на них. Был случай, когда то же самое было на сайте с котятами. То есть жуткое порнографическое описание, ниже такие же комментарии, а на фото — котята в разных позах. При этом все изображения вполне пристойные. Запомнился еще один сайт, который сделал мужчина, очень похожий на байкера. Он был сфотографирован голым на дне бассейна, под водой. Подпись гласила: Man under water. Это тоже отдельный жанр порно.


— Вы «в теме» уже 10 лет. Что изменилось за это время по технической части?

— Определение таких сайтов и контента отчасти модифицировалось, всё больше работы делают роботы. Помимо этого, поменялись и векторы угроз. С конца 2000-х в нашу жизнь активно ворвались соцсети. И именно в них мы сейчас активно определяем подобный контент. В наш продукт Kaspersky Safe Kids мы добавили возможность обнаружения и блокировки по поисковым запросам. Наше решение анализирует запросы детей и, если находит что-то запрещённое, по мнению родителей, — оповещает их. Также в настройках родители могут и вовсе блокировать выдачу определенных запросов.


— Сейчас действительно так сильно активизировались педофилы?


— Благодаря соцсетям взрослые получили новый канал доступа к ребёнку. Всегда существовали секретные сайты, где размещали детскую порнографию, но теперь взрослые могут сразу прийти на страницу ребёнка. Еще в конце 2000-х я исследовала этот вопрос — смотрела, насколько быстро в аккаунт ребёнка набегают взрослые. В течение первых суток уже была замечена такая активность.
 

— А как вы поняли, что это педофилы?

— Конечно, неизвестно, какие намерения были у этих людей на самом деле. Но приходили разнообразные «грязные» сообщения от взрослых мужчин. С тех пор социальные сети, в частности Facebook, «ВКонтакте», стали ответственнее подходить к самостоятельной фильтрации.
 

— С вашей точки зрения, порнография может сильно травмировать ребёнка?

— Всё зависит от конкретного ребёнка. Никогда не знаешь, что именно может повлиять. Однако, помимо такого контента, в интернете есть еще и сцены насилия. Трупы людей, расчлененка, издевательства над животными. Это может быть в разы жёстче, и мне, например, на это смотреть куда тяжелее.

На новостных ресурсах за последние 10 лет этого стало меньше. И многие стали публиковать предупреждения: «Беременным и детям лучше не смотреть». Это хорошая тенденция. Это очень правильно, я давно говорила о том, что так необходимо сделать. Вообще я считаю, что поступление информации для детей не должно быть жёстко ограниченным, но до определенного возраста оно должно быть контролируемым, в первую очередь с помощью родителей. Так как наша команда имеет дело с «родительским контролем», мы часто задумываемся об этом. Родитель должен иметь возможность обсудить с ребёнком просмотренное. Для этого он должен быть в курсе, что его ребёнок смотрит в интернете, а что хочет посмотреть.

Подробности о Kaspersky Safe Kids смотрите здесь: https://www.antivirus.ee/ru/kaspersky-safe-kids

По материалам оригинальной статьи: https://iz.ru/871568/anna-urmantceva/obnazhennuiu-naturu-iz-tretiakovki-my-ne-blokiruem