L'intelligence artificielle ouvre de nouvelles perspectives dans la prévention du mal-être et du harcèlement scolaire. Mais lorsqu'une technologie analyse des informations liées à la santé mentale et s'adresse à des mineurs, sa performance ne peut jamais être le seul critère. Transparence, protection des données, contrôle humain et limites d'usage doivent être pensés dès sa conception.
L'intelligence artificielle est progressivement entrée dans notre quotidien.
Elle nous aide à rechercher de l'information, à apprendre, à travailler, à créer ou encore à communiquer. Dans certains domaines, elle permet également d'analyser de grandes quantités d'informations et de faire émerger des tendances difficiles à identifier individuellement.
Cette évolution ouvre une question particulièrement sensible :
Quelle place voulons-nous accorder à l'intelligence artificielle lorsqu'il est question de santé mentale et, plus encore, de protection des jeunes ?
Chez Mélio, cette question n'est pas théorique.
Elle influence directement notre manière de concevoir notre technologie.
Détecter plus tôt, sans prétendre diagnostiquer
Les situations de mal-être et de harcèlement scolaire ne deviennent pas toujours visibles brutalement.
Elles peuvent s'installer progressivement.
Un changement d'humeur.
Une évolution dans la manière de s'exprimer.
Un sentiment d'isolement qui revient régulièrement.
Des propos inhabituels.
Une dégradation progressive du climat émotionnel.
Pris individuellement, ces éléments ne permettent pas de conclure qu'un jeune est victime de harcèlement ou qu'il rencontre une difficulté psychologique.
Mais leur évolution peut parfois mériter une attention particulière.
C'est ici que l'intelligence artificielle peut apporter quelque chose de nouveau : sa capacité à analyser des informations à grande échelle, à identifier certaines évolutions et à mettre en évidence des signaux qui pourraient autrement rester difficiles à percevoir.
Mais une frontière doit rester extrêmement claire.
Détecter un signal n'est pas poser un diagnostic.
Une intelligence artificielle ne connaît ni l'intégralité de l'histoire d'un jeune, ni son environnement familial, ni ses relations sociales, ni toutes les nuances de son vécu.
Elle peut contribuer à faire émerger une information.
Elle ne doit pas prétendre en déterminer seule la signification.
L'approche développée chez Mélio
Mélio est un dispositif numérique destiné à accompagner les collèges et les lycées dans leurs actions de prévention du mal-être et du harcèlement scolaire.
Notre approche repose sur une idée simple :
utiliser la technologie pour renforcer les capacités d'action des professionnels, et non pour se substituer à eux.
L'intelligence artificielle de Mélio analyse différents éléments afin de contribuer à l'identification de signaux faibles et de leurs évolutions.
Lorsqu'une situation mérite potentiellement davantage d'attention, l'objectif est de permettre aux professionnels habilités de disposer d'éléments supplémentaires pour apprécier la situation.
L'IA n'établit pas un diagnostic psychologique.
Elle ne décide pas seule de l'action à entreprendre.
Elle ne remplace ni un psychologue, ni un CPE, ni une infirmière scolaire, ni l'équipe éducative.
La frontière à retenir
L'IA met en évidence.
L'humain analyse, échange et décide.
Cette distinction constitue l'un des principes fondamentaux de notre approche.
Quand la technologie touche à l'intime, la responsabilité augmente
L'utilisation de l'intelligence artificielle dans un environnement éducatif soulève nécessairement des questions importantes.
Que peut analyser une IA ?
Quelles informations doit-elle être autorisée à utiliser ?
Qui peut accéder aux résultats ?
Combien de temps les informations doivent-elles être conservées ?
Comment éviter les biais ?
Comment prévenir les mauvaises interprétations ?
Comment expliquer le fonctionnement du système aux jeunes, aux familles et aux professionnels ?
Et surtout : quelles décisions devons-nous refuser de déléguer à une machine ?
Ces questions ne peuvent pas être traitées après le développement du produit.
Elles doivent participer à sa conception.
Dans un domaine aussi sensible, l'éthique ne peut pas être une fonctionnalité ajoutée à la fin d'une feuille de route technique.
Elle doit faire partie de l'architecture.
L'Europe construit progressivement un cadre pour l'intelligence artificielle
Cette réflexion dépasse largement Mélio.
Avec l'AI Act, l'Union européenne a choisi une approche de réglementation fondée sur les risques associés aux différents usages de l'intelligence artificielle.
Depuis le 2 août 2026, de nouvelles obligations de transparence prévues notamment par l'article 50 sont applicables à certains systèmes d'IA.
Parmi les principes concernés figure notamment la nécessité, dans les situations couvertes par le règlement, de permettre aux personnes de savoir lorsqu'elles interagissent directement avec un système d'intelligence artificielle.
Certaines obligations concernent également l'identification de contenus générés ou manipulés artificiellement ainsi que des usages spécifiques tels que les deepfakes.
L'objectif est important : permettre le développement de l'intelligence artificielle tout en renforçant la confiance, la transparence et la protection des citoyens.
Pour les technologies destinées aux jeunes, cette réflexion prend une dimension encore plus importante.
Une IA transparente est aussi une IA dont on connaît les limites
Informer qu'une intelligence artificielle est utilisée constitue une première étape.
Mais la transparence devrait également permettre de comprendre ce qu'elle peut, et ce qu'elle ne peut pas, faire.
Une technologie responsable ne devrait pas laisser croire qu'elle comprend parfaitement les émotions d'une personne.
Elle ne devrait pas présenter une probabilité comme une certitude.
Elle ne devrait pas transformer automatiquement un signal statistique en vérité individuelle.
Elle devrait au contraire être capable d'exprimer ses limites et de laisser une place réelle au jugement humain.
Cette philosophie influence directement notre travail chez Mélio.
Nous préférons qu'une intelligence artificielle dise implicitement :
« Voici des éléments qui pourraient mériter votre attention. »
plutôt que :
« Voici ce qui arrive à cet élève. »
La différence peut sembler subtile.
Elle est fondamentale.
Le risque d'une IA qui voudrait remplacer l'écoute
L'intelligence artificielle conversationnelle progresse également très rapidement.
Les systèmes deviennent capables de tenir des conversations de plus en plus naturelles, de reformuler les émotions exprimées et de produire des réponses donnant parfois l'impression d'une véritable compréhension.
Ces capacités peuvent être utiles.
Mais elles créent également un risque : celui de confondre simulation de l'empathie et relation humaine.
Une IA peut répondre.
Elle peut orienter.
Elle peut contribuer à identifier une situation nécessitant une attention particulière.
Mais elle ne doit pas devenir l'unique espace dans lequel un jeune en difficulté cherche de l'aide.
La finalité d'une technologie de prévention devrait toujours être de rapprocher, lorsque cela devient nécessaire, le jeune des personnes capables de l'accompagner réellement.
Construire des garde-fous avant de construire davantage de puissance
Pendant longtemps, la compétition technologique s'est principalement concentrée sur les performances.
Quel modèle comprend le mieux ?
Quel modèle génère les meilleures réponses ?
Quel modèle possède le plus de paramètres ?
Dans les domaines sensibles, une autre question doit désormais prendre autant d'importance :
Quels garde-fous avons-nous construits ?
Chez Mélio, cela signifie notamment travailler autour de principes tels que :
- le maintien d'un contrôle humain ;
- la protection et la minimisation des données ;
- la traçabilité des traitements et des événements pertinents ;
- la limitation des accès aux professionnels habilités ;
- l'évaluation des risques liés aux usages de l'intelligence artificielle ;
- la transparence sur la présence et le rôle de l'IA ;
- l'encadrement des usages sensibles ;
- et une vigilance renforcée lorsqu'il s'agit de mineurs.
Ce travail n'est jamais terminé.
Une IA responsable nécessite une démarche continue d'évaluation, de documentation, de contrôle et d'amélioration.
L'intelligence artificielle peut-elle réellement contribuer à la prévention ?
Nous pensons que oui.
Mais pas seule.
La technologie peut contribuer à analyser davantage d'informations, mettre en évidence certaines évolutions et aider les professionnels à prioriser leur attention.
Elle peut contribuer à passer progressivement d'une logique exclusivement réactive à une logique davantage préventive.
Mais la prévention restera profondément humaine.
Parce qu'après un signal vient une conversation.
Après une alerte vient une analyse.
Après une inquiétude vient parfois une écoute.
Et derrière chaque donnée se trouve une personne.
La véritable question n'est peut-être pas « jusqu'où l'IA peut-elle aller ? »
Techniquement, les capacités de l'intelligence artificielle continueront probablement à progresser.
La question essentielle devient donc celle des limites que nous choisissons collectivement de lui imposer.
Dans la santé mentale, dans l'éducation et dans la protection des mineurs, nous défendons une approche dans laquelle l'intelligence artificielle reste un outil.
Un outil capable d'assister.
Un outil capable d'alerter.
Un outil capable de faire émerger certains éléments.
Mais un outil qui reste placé sous la responsabilité et le discernement humains.
Une IA responsable commence peut-être précisément par savoir ce qu'elle ne doit pas décider.
Chez Mélio, c'est cette frontière que nous voulons continuer à construire, avec les professionnels de l'éducation, de la psychologie, de la santé, de la recherche et de la protection de l'enfance.
Et le débat doit rester ouvert.
Quelle place sommes-nous collectivement prêts à accorder à l'intelligence artificielle dans la prévention et la santé mentale des jeunes ? Et quelles limites ne souhaitons-nous jamais lui faire franchir ?