Как Snapchat использует искусственный интеллект и машинное обучение для предотвращения сделок с наркотиками

быстрый чат
Snapchat использует упреждающий подход в борьбе со сделками с наркотиками, которые происходят на его платформе социальных сетей. Компания поделилась обновленной информацией о своих последних усилиях по прекращению продажи наркотиков через связи в своем приложении.

Snapchat обычно попадает в новости, когда платформа социальной сети отключается, заставляя пользователей в бешенстве задаваться вопросом, когда их любимое приложение снова заработает. Но чрезвычайно популярное приложение, особенно среди подростков и молодых людей, оказалось в центре внимания другого типа в октябре прошлого года, когда NBC News опубликовали репортаж о сомнительных сделках с наркотиками, предположительно совершаемых через приложение.
В отчете рассматривалась смерть подростков и молодых людей, подозреваемых в покупке наркотиков с добавлением фентанила с помощью Snapchat. В отчете говорилось о подростках и молодых людях, которые купили то, что они считали лекарством, отпускаемым по рецепту, но оказалось поддельной таблеткой, содержащей смертельные дозы фентанила. После этого отчета Snapchat наращивает усилия по предотвращению сделок с наркотиками на своей платформе.
В заявлении, опубликованном 18 января, материнская компания Snap рассмотрела проблему. В нем говорилось: «В конце прошлого года CDC объявил, что более 100 000 человек умерли от передозировки наркотиков в США за 12-месячный период, причем фентанил был основной причиной этого всплеска». Фентанил — синтетический опиоид, который в сто раз сильнее морфина.

Snap заявила, что не приемлет торговлю наркотиками в Snapchat. В нем говорится, что за последний год компания добилась значительных операционных улучшений для достижения цели полного искоренения наркоторговцев со своей платформы. Он утверждает, что использует целостный подход, который включает в себя «развертывание инструментов, которые активно обнаруживают контент, связанный с наркотиками, работу с правоохранительными органами для поддержки их расследований, а также предоставление информации в приложении и поддержку Snapchatters, которые ищут термины, связанные с наркотиками, с помощью нового образовательный портал Heads Up».

Компания социальных сетей объявила, что добавляет двух новых партнеров на свой портал Heads Up, чтобы предоставлять своим пользователям важные ресурсы в приложении. Общественные антинаркотические коалиции Америки (CADCA) — некоммерческая организация, деятельность которой направлена ​​на создание безопасных, здоровых и свободных от наркотиков сообществ. Truth Initiative — это второе дополнение, организация, которая стремится уберечь подростков и молодых людей от курения, вейпинга и никотина в целом. Наряду с добавлением этих двух новых организаций, Snap вскоре выпустит следующий эпизод специального сериала «Удачи, Америка», в котором основное внимание будет уделено фентанилу.

Snapchat также обновляет функцию быстрого добавления, чтобы уменьшить взаимодействие между детьми и незнакомцами. Компания заявляет: «Чтобы быть обнаруженным в Quick Add кем-то другим, пользователи младше 18 лет должны иметь определенное количество общих друзей с этим человеком». В прошлом пользователям давали список рекомендуемых друзей на основе взаимных связей, независимо от того, знали вы человека в реальной жизни или нет. Также ведется работа над дополнительными родительскими инструментами, которые будут развернуты в ближайшие месяцы.

Использование Snapchat искусственного интеллекта и машинного обучения заранее обнаруживает 88% контента, связанного с наркотиками

Снапчат
Еще один способ, с помощью которого Snapchat пытается удержать торговцев наркотиками от использования своей платформы, заключается в сотрудничестве с правоохранительными органами. Он внедрил меры с использованием искусственного интеллекта (ИИ) и машинного обучения для выявления наркотического сленга и контента в приложении, а затем сотрудничает с правоохранительными органами, чтобы сообщать о потенциальных случаях и выполнять информационные запросы. С момента создания Snapchat увеличил свою команду правоохранительных органов на 74%. И что примечательно, Snapchat утверждает, что колоссальные 88% раскрываемого им контента, связанного с наркотиками, заранее обнаруживаются его алгоритмами искусственного интеллекта и машинного обучения. Это на 33% больше, чем в предыдущем обновлении.
«Когда мы обнаруживаем деятельность по торговле наркотиками, мы немедленно блокируем учетную запись, используем технологию, чтобы запретить правонарушителю создавать новые учетные записи в Snapchat, а в некоторых случаях активно направляем учетную запись в правоохранительные органы для расследования», — говорится в сообщении Snapchat.

С прошлой осени материнская компания Snap сообщает, что количество контента, связанного с продажей наркотиков, сообщается сообществом. Количество отчетов, связанных с пользователями Snapchat, упало с 23% в сентябре прошлого года до 16% в этом месяце. В целом сообщений о наркотиках стало на 31% меньше. Snap считает, что это показывает, что ее инициативы работают, но понимает, что предстоит еще много работы.

Источник (англ.)

Поставить оценку
Кофебрейкер | Интернет-журнал