Los sistemas de gestión de reclamaciones basados en IA pueden ser engañados, revela informe de Swiss Re

Por: Alma G. Yáñez Villanueva @pea_alma

Desde la apertura de vías fluviales previamente congeladas en el Ártico hasta la manipulación de la inteligencia artificial por parte de piratas informáticos, el panorama de riesgos emergentes es multifacético, según los hallazgos de la 11ma edición del informe SONAR de Swiss Re, que revela que en los seguros de automóviles, los sistemas de gestión de reclamaciones basados en IA pueden incluso ser engañados para detectar daños masivos donde no los hay.

El informe enfatiza cómo el auge de la IA está aumentando las oportunidades de fraude y pérdida de propiedad intelectual, como calificaciones de solvencia falsas o calificaciones de seguros falsas y que, si la IA es pirateada, incluso podría provocar daños físicos al causar accidentes automovilísticos autónomos o diagnósticos médicos erróneos.

El reporte SONAR subraya cómo las amenazas en el horizonte se desarrollan tan dinámicamente como los cambios tecnológicos, geopolíticos y sociales en el mundo actual; asimismo, detalla que un riesgo emergente clave identificado abarca cuestiones tecnológicas, económicas, sociales y ambientales es la “apertura del Ártico”. 

A medida que el océano Ártico y la tierra adyacente se calientan dos o tres veces más rápido que el resto del mundo, el hielo se derrite y se abren nuevas rutas de acceso directo. Sin embargo, el área es un foco de tensión geopolítica potencial, lo que genera preocupaciones sobre cómo se controlarán las actividades económicas y los riesgos relacionados en la región. 

Sobre el tema, Patrick Raaflaub, Chief Risk Officer de Swiss Re, dice: “Los aumentos simultáneos de los intereses económicos, el cambio ambiental y las tensiones geopolíticas hacen del Ártico un semillero de riesgos emergentes y de acumulación potencial de riesgos. Con SONAR, nuestro objetivo es involucrar de manera proactiva a nuestros clientes y a los tomadores de decisiones de la industria, en la discusión de los riesgos emergentes, ya que encontramos que esta es la mejor manera de estar preparados”. 

La publicación también señala que un riesgo más futurista pero potencialmente significativo es la tecnología de gestión de la radiación solar (SRM), que podría usarse para enfriar la tierra. Si bien esto no aborda la causa fundamental del calentamiento global, es decir, las emisiones de gases de efecto invernadero, podría ayudar a reducir las temperaturas globales.

Otro riesgo emergente en el espacio tecnológico podría derivar de los complejos sistemas de aprendizaje automático y la inteligencia artificial (IA). Estas dos áreas de alto impacto están impulsando la próxima ola de avances tecnológicos. Sin embargo, a medida que aumenta el uso de la IA, también lo hacen los posibles riesgos.

Los piratas informáticos profesionales no solo pueden engañar a los modelos para que cometan errores o filtren información, sino que también pueden dañar el rendimiento del modelo al corromper los datos de entrenamiento o robar y extraer modelos de aprendizaje automático.

Califica este artículo

Calificación promedio 0 / 5. Totales 0

Se él primero en calificar este artículo