Zelflerende software maakt een einde aan grof taalgebruik op internet

Het Groningse Target imedia heeft samen met BOIM BV uit Almere een zelflerende moderatietool ontwikkeld die automatisch online discussies modereert. De tool zet goedgekeurde reacties direct online en verwijdert reacties die ongewenst zijn. Volgens de ontwikkelaars maakte de innovatieve tool de online interactie een stuk redelijker.

Organisaties worden tegenwoordig overspoeld met reacties op hun website, via social media en in online fora. Onder het mom van vrijheid van meningsuiting brengen bezoekers vaak maar weinig nuance aan in hun teksten. Volgens Target imedia en BOIM worden de reacties en discussies daardoor steeds feller en komt het geregeld voor dat ze de online kanalen van organisaties vervuilen. Dit bezorgt veel bedrijven en merken hoofdpijn.

Target imedia en BOIM ontwikkelden daarom een moderatietool die ervoor zorgt dat de huisregels van de desbetreffende organisatie worden gewaarborgd. De tool filtert op onder andere discriminerende reacties en grof taalgebruik. Target imedia ontwikkelde de software, die in real-time reacties beoordeelt door ze te accepteren of te verwijderen. Tot nu toe was het idee achter moderatiesoftware dat reacties op berichten door menselijke moderators gecontroleerd werden op discriminatie, fatsoen en andere spelregels, hierin is de ontwikkelde software dus een hulpmiddel dat veel tijd bespaart

De zelflerende tool maakt gebruik van zogeheten ‘Natural Language Processing-technieken’. De tool beoordeelt zelf de reacties en kan nu al bijna de helft van de reacties op online pagina’s direct zelf verwerken. De menselijke moderatoren, die de rest van de reacties moeten controleren, geven feedback waarmee de tool in de toekomst ook deze reacties zelf kan accepteren of weigeren en dus steeds slimmer en zelfstandiger wordt.