Imagínese paseando a su perro por la ciudad. Al cruzar una calle por el paso de cebra, un coche autónomo no percibe al animal y lo atropella. Resulta difícil determinar quién se responsabilizaría por los daños: ¿el dueño del coche? ¿el fabricante? ¿el desarrollador del algoritmo? Por la misma razón, ¿quién respondería si un algoritmo genera un error que afecte directamente su salud o la de sus familiares?
La transformación digital es ya más que evidente en múltiples terrenos de nuestra vida cotidiana. De la misma manera que Amazon ha cambiado radicalmente la forma de realizar nuestras compras o Spotify nuestro acceso a la música, el sector de la salud está siendo testigo de nuevas formas de ocuparnos de nuestro bienestar físico y mental. La inmensa cantidad de información en línea y el —cada vez más— fácil acceso a herramientas de inteligencia artificial para realizar un diagnóstico o confirmar los resultados de un análisis, permiten grandes avances en el terreno médico, pero abren la puerta a nuevos problemas que son incluso mayores que los del ejemplo del coche autónomo. Porque cuando nos referimos a la salud no se trata solo de dirimir de quién es la responsabilidad si algo no sale bien.
Un algoritmo gratuito para realizar diagnósticos o que, incluso, forme parte integral de un sistema podría ser muy útil pero, a la vez, entrañar muchos riesgos. ¿Debería este tipo de algoritmos ser regulado y certificado por alguna institución del país donde se utiliza? Si sabemos que existen algoritmos disponibles que pueden ayudar a mejorar los diagnósticos, ¿podemos considerar que es una negligencia no utilizarlos para ese fin? Y en caso que sí se utilicen y se produzca un diagnóstico erróneo, ¿cómo se divide la responsabilidad legal entre el médico que realiza el diagnóstico, el hospital que compró el sistema y el desarrollador del algoritmo?
En algunos países es todavía necesario definir si un algoritmo debe ser considerado un servicio o un instrumento médico. En Estados Unidos, por ejemplo, los algoritmos deben ser regulados por la Administración de Drogas y Alimentos,