Machine Learning for Health: Algorithm Auditing & Quality Control التعلم الآلي من أجل الصحة: تدقيق الخوارزميات ومراقبة الجودة Machine Learning for Health : Algorithm Auditing & Quality Control Aprendizaje automático para la salud: auditoría de algoritmos y control de calidad

Developers proposing new machine learning for health (ML4H) tools often pledge to match or even surpass the performance of existing tools, yet the reality is usually more complicated. Reliable deployment of ML4H to the real world is challenging as examples from diabetic retinopathy or Covid-19 screening show. We envision an integrated framework of algorithm auditing and quality control that provides a path towards the effective and reliable application of ML systems in healthcare. In this editorial, we give a summary of ongoing work towards that vision and announce a call for participation to the special issue Machine Learning for Health: Algorithm Auditing & Quality Control in this journal to advance the practice of ML4H auditing. غالبًا ما يتعهد المطورون الذين يقترحون أدوات جديدة للتعلم الآلي من أجل الصحة (ML4H) بمطابقة أو حتى تجاوز أداء الأدوات الحالية، ومع ذلك فإن الواقع عادة ما يكون أكثر تعقيدًا. يمثل النشر الموثوق لـ ML4H في العالم الحقيقي تحديًا كما تظهر أمثلة من اعتلال الشبكية السكري أو فحص Covid -19. نحن نتصور إطارًا متكاملًا لتدقيق الخوارزمية ومراقبة الجودة يوفر مسارًا نحو التطبيق الفعال والموثوق لأنظمة غسل الأموال في مجال الرعاية الصحية. في هذه المقالة الافتتاحية، نقدم ملخصًا للعمل الجاري نحو تحقيق هذه الرؤية ونعلن عن دعوة للمشاركة في العدد الخاص من التعلم الآلي من أجل الصحة: تدقيق الخوارزمية ومراقبة الجودة في هذه المجلة للنهوض بممارسة تدقيق ML4H. Les développeurs proposant de nouveaux outils d'apprentissage automatique pour la santé (ML4H) s'engagent souvent à égaler ou même à surpasser les performances des outils existants, mais la réalité est généralement plus compliquée. Le déploiement fiable de ML4H dans le monde réel est difficile, comme le montrent des exemples de rétinopathie diabétique ou de dépistage de la Covid-19. Nous envisageons un cadre intégré d'audit des algorithmes et de contrôle de la qualité qui ouvre la voie à une application efficace et fiable des systèmes de ML dans les soins de santé. Dans cet éditorial, nous donnons un résumé des travaux en cours vers cette vision et annonçons un appel à participation au numéro spécial Machine Learning for Health : Algorithm Auditing & Quality Control dans cette revue pour faire progresser la pratique de l'audit ML4H. Los desarrolladores que proponen nuevas herramientas de aprendizaje automático para la salud (ML4H) a menudo se comprometen a igualar o incluso superar el rendimiento de las herramientas existentes, pero la realidad suele ser más complicada. El despliegue confiable de ML4H en el mundo real es un desafío, como muestran ejemplos de retinopatía diabética o detección de Covid-19. Prevemos un marco integrado de auditoría de algoritmos y control de calidad que proporcione un camino hacia la aplicación efectiva y confiable de los sistemas de aprendizaje automático en la atención médica. En este editorial, damos un resumen del trabajo en curso hacia esa visión y anunciamos una convocatoria para participar en el número especial Machine Learning for Health: Algorithm Auditing & Quality Control en esta revista para avanzar en la práctica de la auditoría ML4H.