← Tous les sujets
06
IA responsable
6 min

IA responsable

Développer des technologies de santé basées sur l'IA de manière responsable

L'IA utilisée pour mesurer les signaux physiologiques nécessite bien plus qu'une simple performance technique solide. Elle exige une approche rigoureuse en matière de données, de développement de modèles, de validation et d'évaluation continue.

Chez Shen AI, nous développons notre technologie en gardant ces principes à l'esprit, en associant le développement de l'IA à des preuves cliniques, des processus de qualité et une réflexion approfondie sur l'utilisation prévue de la technologie.

Développer des modèles avec un objectif précis

Les modèles d'IA de Shen AI sont conçus pour extraire des informations physiologiques à partir de signaux captés par caméra.

La technologie combine les informations issues du rPPG et du rBCG, et utilise le traitement du signal ainsi que l'inférence par IA pour distinguer les signaux physiologiques du bruit et des autres variations présentes dans les données de la caméra.

Notre processus de développement prend en compte les conditions dans lesquelles la technologie sera réellement utilisée, plutôt que de considérer les conditions de laboratoire contrôlées comme la seule mesure de performance.

Utiliser les données de manière responsable

Shen AI adopte une approche axée sur la confidentialité concernant les données impliquées dans sa technologie.

Le traitement physiologique s'effectue localement sur l'appareil de l'utilisateur ou au sein du navigateur web, évitant ainsi que les vidéos du visage ou les données physiologiques des utilisateurs ne soient envoyées aux serveurs de Shen AI.

Shen AI précise également que les données personnelles et sensibles des utilisateurs ne sont pas utilisées pour développer ses modèles d'IA.

Cette approche permet de séparer le fonctionnement de la technologie de mesure de l'utilisation des données personnelles pour le développement des modèles.

En savoir plus sur la confidentialité et la protection des données →

La validation fait partie intégrante du développement

La performance de l'IA doit être évaluée par rapport à des méthodes de référence appropriées et dans des conditions définies.

Shen AI mène des études cliniques et des évaluations techniques pour mesurer les performances de sa technologie. Ces évaluations utilisent des mesures de référence appropriées et prennent en compte les facteurs pouvant affecter la mesure par caméra, notamment les conditions et la durée de la mesure.

Nous encourageons également nos clients à effectuer leur propre validation avant le déploiement. Tester la technologie dans le produit du client, sur les appareils cibles et avec les utilisateurs finaux permet d'obtenir une compréhension plus pertinente de la performance dans cet environnement spécifique.

Explorez les preuves cliniques et la validation →

Évaluer la performance dans des conditions réelles

La mesure physiologique par caméra est influencée par des facteurs tels que l'éclairage, le mouvement, la position du visage et les caractéristiques de la caméra.

La technologie de Shen AI est développée et évaluée en tenant compte de ces variables. Le SDK évalue également en continu la qualité du signal pendant les mesures et fournit un retour d'information lorsque les conditions sont susceptibles d'affecter le signal capturé.

Cela crée une boucle de rétroaction entre la technologie et l'environnement de mesure : le système peut identifier les moments où les conditions sont moins favorables, tandis que les clients peuvent utiliser les informations sur la qualité du signal pour mieux comprendre leurs mesures.

En savoir plus sur la qualité du signal et la fiabilité des mesures →

Une utilisation responsable commence par un usage prévu

L'IA responsable implique également d'être clair sur ce que la technologie est censée faire — et ce qu'elle n'est pas censée faire.

Shen AI propose différents SDK adaptés à des usages prévus et des contextes réglementaires variés. Les applications de bien-être sont conçues à des fins d'information sur la santé et le bien-être, tandis que le SDK médical répond à une finalité médicale définie et à un cadre réglementaire spécifique.

La technologie doit donc être intégrée, présentée et utilisée d'une manière qui reste cohérente avec l'usage prévu du SDK sélectionné.

Explorer la conformité et les exigences réglementaires →

Amélioration continue

Shen AI continue d'évaluer et d'améliorer sa technologie dans le cadre de son processus de développement.

Les mises à jour de la technologie de mesure basée sur l'IA doivent être envisagées non seulement d'un point de vue technique, mais aussi en termes de performance, de qualité et — le cas échéant — d'exigences réglementaires.

Pour les applications de dispositifs médicaux réglementés, les changements sont gérés dans le cadre du système de gestion de la qualité et du cadre réglementaire applicables.

Une approche structurée de la technologie de santé basée sur l'IA

L'IA responsable n'est pas une fonctionnalité unique ou une évaluation ponctuelle. C'est un processus continu qui relie les pratiques de données, le développement de modèles, l'évaluation technique, la validation clinique, la gestion de la qualité et l'usage prévu.

Notre objectif est de développer une technologie de mesure physiologique par caméra qui puisse être évaluée de manière transparente et intégrée de façon responsable dans les produits et services qui l'utilisent.