Las herramientas de inteligencia artificial en el cuidado de la salud, al igual que con cualquier otro software, no son inmunes al sesgo, especialmente si han sido capacitadas con conjuntos de datos que no reflejan con precisión la población a la que aparentemente sirven.
Y abordar el sesgo en la inteligencia artificial y el aprendizaje automático va más allá de reconocer su existencia, dijo Chris Hemphill, vicepresidente de inteligencia artificial aplicada y crecimiento en SymphonyRM.
“Nuestro enfoque está en la participación del paciente y en hacer llegar las comunicaciones correctas a las personas adecuadas”, dijeron. Noticias de TI sanitarias. “Pero queremos asegurarnos de que no extrañamos a personas que pertenecen a clases desfavorecidas”.
En SymphonyRM, explicaron, el equipo se centra en comprender los próximos pasos para ayudar a guiar a los pacientes a participar en la atención médica personal.
Un desafío, dijo Hemphill, es cómo se determinan esos próximos pasos.
Si un servicio se centra en la necesidad, dijeron: “Tienes que averiguar qué [measurement] representa mejor la necesidad que tiene la gente “.
Eso podría estar determinado por la frecuencia con la que los pacientes acuden a un servicio en particular o por cómo se han visto sus gastos médicos durante un cierto período de tiempo.
“Por inofensivo que parezca todo esto, cualquier cosa que esté usando para evaluar la necesidad, o cualquier medida clínica que esté usando, podría reflejar un sesgo”, dijo Hemphill.
Por ejemplo, un enfoque basado en datos basado en los códigos de diagnóstico de los pacientes puede reflejar el sesgo que llevó a esos códigos en primer lugar.
O una medición de la frecuencia clínica podría no tener en cuenta los obstáculos, como las barreras económicas o los prejuicios raciales, que podrían haberse interpuesto entre un paciente y la búsqueda de atención.
El resultado puede ser discriminatorio y, a veces, peligroso.
En SymphonyRM, dijo Hemphill, su equipo trabaja en formas de abordar enfoques para la participación del paciente que pueden estar quedando cortos.
Utilizaron el ejemplo de las campañas de divulgación de cardiología. Una estrategia típica, dijeron, es apuntar a hombres mayores de 45 y mujeres mayores de 55.
“Pero siguiendo ese enfoque, ¿qué pasa con todos los hombres que tienen menos de 45 o las mujeres que tienen menos de 55?” ellos dijeron.
SymphonyRM adoptó un enfoque de aprendizaje automático para identificar los matices, como las mediciones de la presión arterial sistólica, que podrían ser indicativos de factores de riesgo cardiovascular.
Ese enfoque resultó en un crecimiento del 27% en el alcance de las personas entre las edades de 18 y 45.
Al mismo tiempo, señaló Hemphill, ese modelo inicial no era perfecto: “No funcionó al nivel que consideramos aceptable para los pacientes negros y asiáticos”.
“Un buen rendimiento de modelo puede enmascarar lo que realmente está sucediendo debajo de la superficie”, continuaron.
Para los sistemas de salud y las partes interesadas de TI que desean tomar medidas hacia la corrección, Hemphill recomendó el artículo “Aprendizaje automático ético en la atención médica”.
“Ese es un buen punto de partida, pero quiero que la gente piense más allá de ese papel”, continuaron. “Está la parte del aprendizaje automático, pero también está la parte de las personas.
“El modelado no significa nada si no se tiene la experiencia del usuario; las discusiones del usuario; la capacitación sobre cómo y por qué la gente debería usarlo”, agregaron.
Hemphill señaló que, por supuesto, existe un imperativo moral en la atención médica para garantizar que ningún paciente se quede atrás o corra un mayor riesgo debido a las herramientas de inteligencia artificial.
Pero también señalaron el imperativo económico, específicamente para los hospitales.
Refiriéndose al programa de extensión de cardiología, dijeron: “Si el 27% de su crecimiento provino de personas de 18 a 45 en todo el espectro de género, ¿por qué excluiría eso?”
“¿Se necesita trabajo, esfuerzo y preguntas adicionales para modelar y construir de esa manera?” ellos preguntaron. “Sí. Pero creo que vale la pena.”
Kat Jercich es editora senior de Healthcare IT News.
.: @kjercich
Correo electrónico: [email protected]
Healthcare IT News es una publicación de HIMSS Media.