Instagram se želi još snažnije boriti protiv online nasilja te su objavili kako su počeli koristiti novu tehnologiju koja će im omogućiti da u samim fotografijama detektiraju znakove online nasilja. Na taj način i oni žele koristiti umjetnu inteligenciju u moderiranju sadržaja na svojoj platformi.
- Većina sadržaja na Instagramu je pozitivnog karaktera i veseli ljude, ali povremeno tu ima fotografija koje su nepoželjne- rekao je Adam Mosseri, novi direktor Instagrama u službenoj objavi. Dodaje kako koriste strojno učenje kako bi proaktivno prepoznali nasilje u fotografijama i njihovim opisima te odmah to proslijedili timu zaduženom za detaljniju provjeru.
Njihova tehnologija tako može prepoznati niz taktika poznatih kod online nasilja, poput ocjenjivanja, usporedbi, ocjenjivanja opisa. Čest primjer je kad se neku osobu stavi na sliku pored druge i uspoređuje u negativnom smislu.
Facebook je također nedavno uveo svoje nove alate protiv online nasilja koji omogućuju da se uklone trolovi sa feedova, ali i opcije da se uklone i sakriju skupni komentari te da se prijave komentari u korist neke žrtve.