Als Startups wie Facebook, Twitter und LinkedIn ihr Streben nach der Dominanz der Social Media Landschaft begannen, waren ihre Überlegungen, ihre digitale Arena zu „kontrollieren“, weit entfernt. Jetzt, da sie fast 3,5 Milliarden Nutzer haben, ist die immense Verantwortung für den Schutz ihrer Nutzer durch die Überprüfung krimineller Aktivitäten für die Sicherheit ihrer Communities von entscheidender Bedeutung geworden.

Da die öffentliche Besorgnis über das unbeabsichtigte Hosting von expliziten Drogenhandel werden Social Media-Netzwerke aufgerufen, sich zu verbessern und eine sicherere digitale Umgebung zu gewährleisten.

Während ihr anfänglicher Schwerpunkt darin bestand, so viele Nutzer wie möglich zu gewinnen und durch Werbung zu monetarisieren, ist klar geworden, dass dieselben Kommunikationskanäle von Drogenhändlern genutzt wurden.

Jetzt, da sich der Kampf um Marktanteile stabilisiert hat, ist es an der Zeit, dass soziale Netzwerke ihre Spitzentechnologie in einer Weise einsetzen, die mehr bietet als nur „Nachbarschaftsbeobachtung“, die die Nutzer ermutigt, anstößige Inhalte zu kennzeichnen oder den Support zu informieren. Aber die schiere Geschwindigkeit und das Volumen der Interaktionen auf ihren Plattformen haben die menschliche Kontrolle unmöglich gemacht, da der agile Drogenmarkt ständig Taktiken entwickelt, um der Erkennung zu entgehen.

Um mit der aktuellen Geschwindigkeit und dem Volumen der digitalen Interaktionen fertig zu werden, haben Künstliche Intelligenz und Maschinelles Lernen sich der Situation gewachsen gezeigt und versprechen, die Echtzeitüberwachung von Bedrohungen zu skalieren und gleichzeitig die Gefahren zu antizipieren, die kriminelle Elemente und schlechte Akteure darstellen.

Facebook und Instagram schlagen zurück

Facebook hat begonnen, sich nicht nur darauf zu verlassen, dass die Nutzer drogenbezogene Bilder und Inhalte melden. Die weltweit größte Social-Media-Plattform setzt seit einigen Jahren Künstliche Intelligenz ein, um sowohl den Drogengehalt zu erkennen als auch zu berechnen, wer die Drogendealer im Netzwerk sind.

Wie die US-Opioidkrise hat gezeigt, begrüßen Drogenhändler und Käufer Social Media als geeignete Arena für den Drogenmarkt. Mit den neuesten Funktionen zur Kategorisierung drogenbezogener Bilder ist die KI von Facebook jedoch in der Lage, Inhalte zu erkennen und abzulehnen, die ausdrücklich oder implizit den Verkauf oder Kauf illegaler Drogen fördern.

„Unsere Technologie ist in der Lage, Inhalte zu erkennen, die Bilder von Drogen beinhalten und die Absicht darstellen, mit Informationen wie Preis, Telefonnummer oder Benutzernamen für andere Social Media-Konten zu verkaufen, sagte Kevin Martin, Leiter der US Public Policy bei Facebook. – Quelle

Facebook ist nicht das einzige soziale Netzwerk, das versucht, den illegalen Drogen- und Rezepthandel auf seiner Plattform einzudämmen.

Twitter wird proaktiv

Twitter hat Initiativen gestartet, um Drogen-Tweeting-Inhalte bei der Überwachung von Hashtagszu scannen und zu verbannen“. Hashtags wurden erstellt, um einem bestimmten Tweet ein Thema zuzuordnen, sodass thematische Beiträge auf der gesamten Plattform leicht gefunden werden können. Hashtags bestehen aus Buchstaben, Ziffern und Unterstrichen, denen das Hash-Symbol # vorangestellt ist.

„Wir haben einen iterativen, proaktiven Prozess, um sicherzustellen, dass wir Möglichkeiten für den illegalen Drogenverkauf auf unseren Plattformen verhindern und schnell darauf reagieren. Wir arbeiten auch eng mit Experten zusammen, um alle möglichen Maßnahmen zu ergreifen und haben explizite Richtlinien, die dazu beitragen, unsere Plattform für unsere Community sicher zu machen Twitter-Sprecher – Quelle

Einige der Hashtags, die die Verfügbarkeit und die Preise von Betäubungsmitteln anzeigen, sind explizit (#BuyDrugsOnline), einige finden sich unter Straßennamen („Captain Cody“ = Codein), während andere durch kryptische Hashtags (#white = Fentanyl) gekennzeichnet sind. Mit einer halben Milliarde Nachrichten, die pro Tag gepostet werden, ist es eine große Aufgabe, den Überblick über die Zensur von Drogeninhalten zu haben.

LinkedIn muss mit der Überwachung von Unternehmensprofilen beginnen

Sogar LinkedIn hat Anzeichen dafür gezeigt, dass es ein Paradies für illegale Online-Apotheken wird, die Adderall, Xanax, Vicodin und mehr verkaufen. Mit bestimmten „Unternehmen“, die unter zweifelhaften Namen wie „Adderall zu verkaufen“, bleibt eine weitere Bedrohung für Social Media-Nutzer unentdeckt. Wenn 76 % der US-Bürger* Medikamente wahrscheinlich online kaufen, kann die Verbreitung illegal betriebener Apotheken eine nationale Bedrohung für die Gesundheit der Amerikaner und der gesamten Weltgemeinschaft darstellen.

(*gemäß einer aktuellen Umfrage der gemeinnützigen Alliance for Safe Online Pharmacies)

 

KI-gestützte Detektionslösungen

Die Liste der sozialen Netzwerke, wo illegale und kontrollierte Substanzen verkauft werden, wächst weiter und umfasst nun auch Tumblr, Pinterest, Google+, WhatsApp, Reddit und mehr. Aufgrund dieser Ausweitung des Drogenhandels wird immer deutlicher, dass auch diese anderen Social Media-Hubs eine KI-Lösung implementieren müssen, die sowohl die Behörden auf den illegalen Verkauf von kontrollierten Substanzen im Internet aufmerksam macht als auch kriminelle Konten entfernt.

„Was wir tun müssen, ist, mehr KI-Tools zu entwickeln, die diese (drogenbezogenen) Inhalte proaktiv finden können. – Facebook CEO, Mark Zuckerberg

Mit der kürzlich erfolgten Einführung von “proaktiver Erkennung” auf Basis von KI zeigen Facebook und Instagram, wie man den Drogenhandel in Echtzeit effektiver überwachen kann und gleichzeitig menschliche Moderatoren freisetzen kann, die sich auf Seiten, Gruppen und Hashtags konzentrieren.

Social Media-Riesen arbeiten zusammen

Facebook, Twitter und Google haben kürzlich Tech Together to Fight the Opioid Crisis gegründet, um sowohl die Opioidkrise in den USA zu bekämpfen als auch zu verstehen, wie man mit dem anhaltenden illegalen Drogenhandel auf ihren Plattformen umgeht.

Mit Unterstützung des Computer Forensic Research Lab der University of Alabama werden nun schlechte Akteure und ihre Inhalte in sozialen Netzwerken markiert und behandelt. Wenn Benutzer darüber hinaus als mit der Sucht kämpfend identifiziert werden, stellen Algorithmen ihnen Inhalte zur Verfügung, die sie an vertrauliche Behandlungs- und Bildungsmöglichkeiten weiterleiten.

Cellebrites KI-gestützte Analytik identifiziert Opioid-Dealer

Cellebrite hat auch die Notwendigkeit einer KI-Bildkategorisierung erkannt, da drogenbezogene Inhalte in digitalen Ermittlungen weiterhin auftauchen. Mit der Veröffentlichung von Analytics 8.0 wurden vordefinierte Kategorien sowie benutzerdefinierte Kategorien eingeführt, um Drogen, Waffen und Geld sowie viele weitere Objekte, die auf kriminalitätsbezogene Aktivitäten hinweisen könnten, effektiver zu identifizieren.

In einem aktuellen Fall hat Cellebrite Analytics erfolgreich digitale Beweise analysiert, die aus 41 Telefonen extrahiert wurden, um einen einfachen Opioid-Dealer zu finden, der jetzt seine Strafe wegen Mordes verbüßt. Um weitere Beispiele für Analytik in der Praxis zu verstehen, lesen Sie die vollständige Fallstudie hier, oder sehen Sie sich das Webinar „Opioid Crisis in America: From Digital Clues to a Murder Conviction“(Opioidkrise in Amerika: Von digitalen Hinweisen zu einer Mordüberführung) an.

Diesen Beitrag teilen