{"id":28440,"date":"2021-08-21T11:40:51","date_gmt":"2021-08-21T15:40:51","guid":{"rendered":"https:\/\/antilla-martinique.com\/?p=28440"},"modified":"2021-08-21T11:40:51","modified_gmt":"2021-08-21T15:40:51","slug":"un-outil-dia-pourrait-prevenir-les-conversations-toxiques-sur-internet","status":"publish","type":"post","link":"https:\/\/antilla-martinique.com\/en\/un-outil-dia-pourrait-prevenir-les-conversations-toxiques-sur-internet\/","title":{"rendered":"Un outil d\u2019IA pourrait pr\u00e9venir les conversations toxiques sur Internet"},"content":{"rendered":"
\n
\n
<\/div>\n<\/div>
Les r\u00e9seaux sociaux, les jeux vid\u00e9o et les communaut\u00e9s sur Internet font tous face au m\u00eame probl\u00e8me: la multiplication des commentaires toxiques par une poign\u00e9e d\u2019utilisateurs malveillants.(Shutterstock)<\/span><\/span><\/figcaption>
\n
\n
\n
\n

<\/h1>\n<\/div>\n<\/header>\n<\/div>\n<\/div>\n<\/figure>\n
\n
\n
\n
\n

Author<\/h3>\n
    \n
  1. Richard Khoury<\/span><\/a><\/li>\n<\/ol>\n<\/div>\n<\/section>\n
    \n
    \n
    \n
    \n
    <\/h6>\n<\/div>\n<\/div>\n<\/div>\n<\/section>\n<\/div>\n
    \n
    \n

    Les m\u00e9dias sociaux permettent d\u2019\u00e9changer des informations comme jamais auparavant. Mais ils ont aussi ouvert la porte aux commentaires agressifs et violents, au harc\u00e8lement, voire \u00e0 la diffamation et \u00e0 la haine.<\/p>\n

    Et si un outil permettait de savoir qu\u2019une conversation va mal tourner et agir pour emp\u00eacher les d\u00e9rapages\u00a0?<\/p>\n

    C\u2019est le d\u00e9fi sur lequel planchent Richard Khoury, de l\u2019Universit\u00e9 Laval, et \u00c9loi Brassard-Gourdeau, de Two Hat Security, une entreprise qui fournit des outils pour mod\u00e9rer les conversations sur les r\u00e9seaux sociaux.<\/p>\n

    Dans un article publi\u00e9<\/a> dans le compte rendu de la 34\u1d49 Conf\u00e9rence canadienne sur l\u2019intelligence artificielle (IA)<\/a>, les chercheurs montrent que le caract\u00e8re positif ou n\u00e9gatif des mots utilis\u00e9s et l\u2019intensit\u00e9 de cette polarisation dans une conversation permettent d\u2019am\u00e9liorer les algorithmes servant \u00e0 pr\u00e9dire si un \u00e9change risque de d\u00e9railler. La Conversation<\/em> en a discut\u00e9 avec Richard Khoury.<\/p>\n

    <\/div>\n

    En quoi consistent vos recherches\u00a0?<\/strong><\/p>\n

    Les r\u00e9seaux sociaux, les jeux vid\u00e9o et les communaut\u00e9s sur Internet font tous face au m\u00eame probl\u00e8me\u00a0: la multiplication des commentaires toxiques par une poign\u00e9e d\u2019utilisateurs malveillants. Pour garder ces communaut\u00e9s florissantes, il est essentiel de filtrer ces messages toxiques aussi rapidement que possible, sans pour autant nuire aux conversations l\u00e9gitimes qui ont lieu entre les membres de ces communaut\u00e9s. Nos travaux cherchent \u00e0 anticiper le d\u00e9rapage des conversations et d\u00e9couvrir les signes pr\u00e9curseurs des messages toxiques. Ceci permettrait \u00e9ventuellement aux mod\u00e9rateurs des communaut\u00e9s d\u2019intervenir avant m\u00eame que les messages toxiques n\u2019apparaissent.<\/p>\n

    Est-ce que ce sont les mots utilis\u00e9s le probl\u00e8me\u00a0?<\/strong><\/p>\n

    D\u00e9tecter des mots est relativement simple et ce genre de filtre existe d\u00e9j\u00e0 depuis plusieurs ann\u00e9es. Le probl\u00e8me est que \u00e7a d\u00e9tecte les mots exacts et c\u2019est tr\u00e8s facile de simplement changer une lettre pour les contourner, ou d\u2019utiliser un mot en apparence inoffensif mais qui a une connotation n\u00e9gative dans le contexte. Une conversation peut avoir l\u2019air saine en apparence alors qu\u2019elle comporte un message toxique. En parall\u00e8le, ces filtres \u00e9tant tr\u00e8s stricts, ils bloquent le mot, peu importe son contexte d\u2019utilisation. Il y a donc beaucoup d\u2019utilisations l\u00e9gitimes de certains mots, comme lors de conversations constructives sur la sexualit\u00e9 ou le cyberharc\u00e8lement, qui seront aussi bloqu\u00e9s. Le filtrage par mots-cl\u00e9s est donc tr\u00e8s inefficace pour deux raisons\u00a0: il laisse passer beaucoup de choses et en bloque d\u2019autres par erreur.<\/p>\n

    Utiliser des mod\u00e9rateurs humains est-il plus efficace\u00a0?<\/strong><\/p>\n

    La solution humaine est souvent utilis\u00e9e lorsque l\u2019on ne dispose pas de la technologie ou qu\u2019on ne lui fait pas confiance. Ce sont des mod\u00e9rateurs qui relisent les conversations, mais ils agissent une fois que le mal est fait et lorsqu\u2019on leur signale un message toxique. C\u2019est tr\u00e8s lent parce qu\u2019ils doivent relire chaque message. C\u2019est aussi incomplet, car une proportion importante de messages toxiques ne sont jamais rapport\u00e9s. De plus, il a \u00e9t\u00e9 clairement d\u00e9montr\u00e9 que ceux qui en font une profession et qui sont expos\u00e9s constamment \u00e0 des messages violents et haineux peuvent avoir des s\u00e9quelles psychologiques \u00e0 la longue.<\/p>\n

    Sur quoi vos travaux se basent-ils pour d\u00e9tecter les conversations toxiques avant qu\u2019elles ne s\u2019enveniment\u00a0?<\/strong><\/p>\n

    Nos recherches visent \u00e0 cr\u00e9er des filtres qui traiteront les mots et les messages en tenant compte du contexte de la conversation dans laquelle ils surviennent. En prenant en compte ce contexte, il sera possible de d\u00e9terminer si un mot ou un message est toxique ou inoffensif. Il sera \u00e9galement possible d\u2019observer la conversation qui se d\u00e9grade, les messages qui changent et s\u2019enveniment graduellement, et ainsi intervenir plus t\u00f4t, avant que les messages plus toxiques ne soient \u00e9crits. Dans notre plus r\u00e9cent article, nous nous sommes pench\u00e9s plus pr\u00e9cis\u00e9ment sur une nouvelle fa\u00e7on plus fine de traiter les sentiments exprim\u00e9s dans la conversation pour contribuer \u00e0 cet objectif.<\/p>\n

    Comment avez-vous proc\u00e9d\u00e9 concr\u00e8tement\u00a0?<\/strong><\/p>\n

    Nous sommes d\u2019abord partis des travaux d\u2019un autre chercheur qui avait class\u00e9 1270\u00a0paires de conversations sur Wikipedia, qui contenaient une conversation qui avait d\u00e9rap\u00e9 et l\u2019autre qui \u00e9tait rest\u00e9e polie. Ce chercheur avait d\u00e9couvert que les conversations toxiques contenaient souvent des messages \u00e0 la deuxi\u00e8me personne (tu) et des questions directes. En \u00e9change, l\u2019utilisation de la premi\u00e8re personne avec des formules de politesse et de remerciements \u00e9tait un indicateur de positivit\u00e9. Nous avons entra\u00een\u00e9 notre algorithme utilisant les sentiments \u00e0 pr\u00e9voir ces situations avec ces m\u00eames donn\u00e9es et ensuite avec 26\u00a0954\u00a0conversations recueillies sur une plate-forme de jeux vid\u00e9o.<\/p>\n

    Qu\u2019avez-vous d\u00e9couvert\u00a0?<\/strong><\/p>\n

    D\u2019abord, nous avons r\u00e9alis\u00e9 que l\u2019analyse fine des sentiments est un tr\u00e8s bon indicateur du d\u00e9roulement d\u2019une conversation, tant pour celles qui sont constructives que celles qui d\u00e9g\u00e9n\u00e8rent. Mais ce qui nous a le plus surpris est que \u00e7a ne prend pas grand-chose pour qu\u2019une conversation d\u00e9rape alors qu\u2019il faut beaucoup d\u2019effort pour garder une conversation positive. Il faut au moins quatre ou cinq mots positifs pour maintenir une conversation polie, mais il suffit d\u2019un ou deux mots n\u00e9gatifs pour que \u00e7a d\u00e9rape. Les premiers mots positifs ont donc l\u2019air d\u2019avoir moins d\u2019importance, moins d\u2019impact sur le reste de l\u2019\u00e9change. Nous avons aussi d\u00e9couvert que le ton d\u2019une conversation peut changer radicalement en moins de trois messages, ce qui veut dire que l\u2019on dispose de quelques secondes seulement pour intervenir avant qu\u2019une conversation polie au d\u00e9part ne devienne toxique.<\/p>\n

    Quels seront les impacts de vos travaux selon vous\u00a0?<\/strong><\/p>\n

    J\u2019esp\u00e8re que ce genre de travaux, non seulement les miens, mais aussi ceux d\u2019autres chercheurs, auront un impact important sur l\u2019\u00e9volution de l\u2019Internet. On ne se cachera pas que la propagation des messages toxiques est un gros probl\u00e8me et un gros d\u00e9fi aujourd\u2019hui. Internet a \u00e9t\u00e9 imagin\u00e9 comme un espace o\u00f9 l\u2019on pourrait s\u2019exprimer librement, mais il a aussi ouvert une porte aux commentaires agressifs et violents, d\u2019une mani\u00e8re illimit\u00e9e et non contr\u00f4l\u00e9e. Donc ce genre de travaux, je l\u2019esp\u00e8re, permettra d\u2019assainir la place publique virtuelle et en faire un environnement conforme \u00e0 ce qu\u2019on avait imagin\u00e9 au d\u00e9part, o\u00f9 l\u2019on peut parler librement, mais de mani\u00e8re constructive, et \u00e9changer de l\u2019information pour faire avancer la soci\u00e9t\u00e9. En ce moment, on le voit, l\u2019ambiance toxique d\u00e9courage les gens d\u2019\u00eatre actifs sur Internet et sur les r\u00e9seaux sociaux parce qu\u2019on ne veut pas se faire attaquer.<\/p>\n

    Quelle sera la suite\u00a0?<\/strong><\/p>\n

    Il reste encore beaucoup de travail \u00e0 faire pour que des algorithmes pr\u00e9dictifs de toxicit\u00e9 puissent \u00eatre utilis\u00e9s pour g\u00e9rer des communaut\u00e9s web. Nous devrons tester notre syst\u00e8me sur un plus grand ensemble de donn\u00e9es et dans plusieurs contextes. \u00c9ventuellement, nous aimerions aussi \u00e9tudier la voix, car dans les jeux vid\u00e9o, par exemple, il n\u2019y a pas que des \u00e9changes de messages \u00e9crits, mais aussi des messages vocaux et le ton de la voix, qui peuvent \u00eatre un \u00e9l\u00e9ment pr\u00e9dictif de la qualit\u00e9 des \u00e9changes.<\/p>\n

    Y a-t-il des enjeux \u00e9thiques \u00e0 consid\u00e9rer dans les applications de vos recherches\u00a0?<\/strong><\/p>\n

    Oui, et nous devons en tenir compte. Nous voulons d\u00e9velopper un outil qui ne bloquera pas les conversations constructives. Un algorithme mal entra\u00een\u00e9 pourrait non seulement avoir ce d\u00e9faut, mais en plus cibler certains groupes de mani\u00e8re disproportionn\u00e9e. Lorsqu\u2019on parle d\u2019\u00e9thique en intelligence artificielle, il faut regarder les jeux de donn\u00e9es qui sont utilis\u00e9s pour entra\u00eener les algorithmes\u00a0; les groupes qui y sont mal repr\u00e9sent\u00e9s ou qui n\u2019en font pas partie du tout risquent de subir des pr\u00e9judices. Dans notre cas, des \u00e9tudes d\u2019autres chercheurs ont montr\u00e9 que lorsqu\u2019on utilise des algorithmes qui n\u2019ont pas \u00e9t\u00e9 entra\u00een\u00e9s avec des jeux de donn\u00e9es repr\u00e9sentatifs, les messages \u00e9crits dans des dialectes de certains groupes culturels ne faisant pas partie des donn\u00e9es d\u2019entra\u00eenement \u00e9taient plus souvent faussement \u00e9tiquet\u00e9s comme toxiques. Il faut tenir compte aussi de nos biais personnels. Nous sommes tr\u00e8s conscients de \u00e7a.<\/p>\n<\/div>\n<\/div>\n<\/div>","protected":false},"excerpt":{"rendered":"

    Les r\u00e9seaux sociaux, les jeux vid\u00e9o et les communaut\u00e9s sur Internet font tous face au m\u00eame probl\u00e8me: la multiplication des commentaires toxiques par une poign\u00e9e d\u2019utilisateurs malveillants.(Shutterstock) Auteur Richard Khoury Les m\u00e9dias sociaux permettent d\u2019\u00e9changer des informations comme jamais auparavant. Mais ils ont aussi ouvert la porte aux commentaires agressifs et violents, au harc\u00e8lement, voire<\/p>","protected":false},"author":33,"featured_media":28441,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"_uf_show_specific_survey":0,"_uf_disable_surveys":false,"footnotes":"","rank_math_focus_keyword":"","rank_math_title":"","rank_math_description":"","rank_math_canonical_url":"","rank_math_robots":null,"rank_math_facebook_title":"","rank_math_facebook_description":"","rank_math_twitter_title":"","rank_math_twitter_description":""},"categories":[1],"tags":[],"class_list":["post-28440","post","type-post","status-publish","format-standard","has-post-thumbnail","category-non-classe"],"acf":[],"_links":{"self":[{"href":"https:\/\/antilla-martinique.com\/en\/wp-json\/wp\/v2\/posts\/28440","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/antilla-martinique.com\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/antilla-martinique.com\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/antilla-martinique.com\/en\/wp-json\/wp\/v2\/users\/33"}],"replies":[{"embeddable":true,"href":"https:\/\/antilla-martinique.com\/en\/wp-json\/wp\/v2\/comments?post=28440"}],"version-history":[{"count":0,"href":"https:\/\/antilla-martinique.com\/en\/wp-json\/wp\/v2\/posts\/28440\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/antilla-martinique.com\/en\/wp-json\/wp\/v2\/media\/28441"}],"wp:attachment":[{"href":"https:\/\/antilla-martinique.com\/en\/wp-json\/wp\/v2\/media?parent=28440"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/antilla-martinique.com\/en\/wp-json\/wp\/v2\/categories?post=28440"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/antilla-martinique.com\/en\/wp-json\/wp\/v2\/tags?post=28440"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}