Para limitar los riesgos y maximizar las oportunidades intrínsecas al uso de la IA para la salud, la OMS proporciona los siguientes principios como base para la regulación y la gobernanza de la IA:
Protección de la autonomía humana: en el contexto de la atención de la salud, esto significa que los seres humanos deben mantener el control de los sistemas de atención de la salud y las decisiones médicas; se debe proteger la privacidad y la confidencialidad, y los pacientes deben dar un consentimiento informado válido a través de marcos legales apropiados para la protección de datos.
Promover el bienestar y la seguridad humanos y el interés público. Los diseñadores de tecnologías de IA deben satisfacer los requisitos reglamentarios de seguridad, precisión y eficacia para casos de uso o indicaciones bien definidos. Deben estar disponibles medidas de control de calidad en la práctica y mejora de la calidad en el uso de IA.
Asegurar transparencia, explicabilidad e inteligibilidad. La transparencia requiere que se publique o documente suficiente información antes del diseño o implementación de una tecnología de IA. Dicha información debe ser fácilmente accesible y facilitar una consulta pública significativa y un debate sobre cómo se diseña la tecnología y cómo debe o no debe usarse.
Fomento de la responsabilidad y la rendición de cuentas. Aunque las tecnologías de IA realizan tareas específicas, es responsabilidad de las partes interesadas asegurarse de que se utilicen en las condiciones adecuadas y por personas debidamente capacitadas. Deben estar disponibles mecanismos efectivos para interrogar y reparar a las personas y grupos que se vean afectados negativamente por decisiones basadas en algoritmos.
Garantizar la inclusión y la equidad. La inclusión requiere que AI para la salud se diseñe para fomentar el uso y acceso equitativo más amplio posible, independientemente de la edad, sexo, género, ingresos, raza, etnia, orientación sexual, capacidad u otras características protegidas por los códigos de derechos humanos.
Promover una IA que sea receptiva y sostenible. Los diseñadores, desarrolladores y usuarios deben evaluar de manera continua y transparente las aplicaciones de IA durante el uso real para determinar si la IA responde de manera adecuada, apropiada a las expectativas y requisitos. Los sistemas de IA también deben diseñarse para minimizar sus consecuencias ambientales y aumentar la eficiencia energética. Los gobiernos y las empresas deben abordar las interrupciones anticipadas en el lugar de trabajo, incluida la capacitación para que los trabajadores de la salud se adapten al uso de sistemas de inteligencia artificial y las posibles pérdidas de empleos debido al uso de sistemas automatizados.
Estos principios guiarán el trabajo futuro de la OMS para apoyar los esfuerzos encaminados a garantizar que todo el potencial de la IA para la atención sanitaria y la salud pública se utilice en beneficio de todos. Fuente: OMS.