Un chatbot cauteloso sobre las declaraciones de GPT e AI y VC mira a Israel

Está leyendo la versión web de STAT Health Tech, nuestra guía sobre cómo la tecnología está cambiando las ciencias de la vida. Regístrese para recibir este boletín en su bandeja de entrada todos los martes y jueves.

El chatbot de salud mental que no quiere GPT (todavía)

Adobe

Wysa Lanzó el chatbot impulsado por IA que ayuda a las personas a controlar su salud mental en poco tiempo. charlar Alimenta el entusiasmo por las tecnologías que parecen pensar y hablar como humanos. Pero mientras otras empresas se apresuran a encontrar formas de fusionarse Generación de inteligencia artificial en saludWysa está adoptando un enfoque más cauteloso hacia la tecnología, cofundador y presidente de la empresa. Ramakant Vimmati Dime.

El bot interactivo de Wysa utiliza técnicas de la terapia cognitiva conductual para ayudar a las personas a controlar la ansiedad, el estrés y otros problemas comunes. Pero bajo el capó, no comparte el ADN de ChatGPT: el bot utiliza el procesamiento del lenguaje natural para interpretar las entradas de los usuarios, pero siempre entrega una de sus propias respuestas preescritas y corregidas. Sin respuestas de compilación significa que no hay contenido potencialmente inseguro.

Es una fórmula que hasta ahora ha funcionado para Wysa, que anunció una ronda de financiación de la Serie B el año pasado y dice que 6 millones de personas han probado su aplicación. Wysa está disponible gratuitamente para los consumidores con opciones de contenido de pago y también lo utiliza el Reino Unido. servicio Nacional de Salud y grupos de empleadores y aseguradoras estadounidenses.

Vempati dijo que la compañía ha respondido muchas preguntas sobre ChatGPT e incluso está en conversaciones activas con algunos clientes sobre posibles casos de uso. Pero como explicó la compañía en Evidencia moderna Para la IA generacional, no se sienten cómodos lanzando actualizaciones de las que no están completamente seguros de que funcionarán de manera segura y confiable. Sin embargo, con las pruebas y medidas de protección adecuadas, Vempati dijo que cree que existe la oportunidad de usar la IA generativa para hacer cosas como ayudar a una empresa a traducir su texto a otros idiomas o hacer que la conversación de un bot sea menos seca y repetitiva. Sin embargo, la compañía aparentemente aún no ha procedido con ninguna actualización.

Vempati dijo que la exageración en torno a ChatGPT ha creado una apertura para el chat como mecanismo de entrega de atención de salud mental, pero también ha elevado el nivel de calidad.

Él dijo: «Ha aumentado las expectativas en términos de lo que el servicio debe y puede hacer, lo que creo que probablemente sirva como un llamado a la acción para nosotros al decir que realmente debe comenzar a ofrecer una conversación similar a la humana, a veces Wysa simplemente no lo hace. » . «Entonces, ¿cómo se equilibra la seguridad con la demanda de los clientes?»

Los datos de IA son abundantes

Hablando de la exageración de la IA, la exageración actual aparentemente ha generado la necesidad de que instituciones históricas ocupen cargos públicos o se organicen en torno a la idea de practicar la IA de manera segura y ética. Hemos visto solo esta semana:

• Medicina de Stanford anunciar Lanzamiento de la Internacional Responsable por una Salud Segura y Equitativa, o RAISE-Health, que será codirigida por el Decano lloyd menor y profesor de informática Fei Fei Lee. Según la declaración, este esfuerzo «establecerá una plataforma de transición para la IA responsable en la salud y la medicina; definirá un marco estructurado de normas y salvaguardas éticas; y reunirá regularmente a un grupo diverso de innovadores, expertos y tomadores de decisiones interdisciplinarios».
• en su reunión anual, Asociación Médica de Estados Unidos Los líderes han pedido «más supervisión regulatoria del uso de IA por parte de las aseguradoras en la revisión de reclamos de pacientes y solicitudes de autorización previa», citando a ProPublica. investigación quien lo revelo Cigna Estaba usando tecnología para permitir a los médicos negar una gran cantidad de reclamos sin leer los archivos de los pacientes. Y a principios de este año, un Investigación urgente Descubrió que los planes Medicare Advantage utilizan inteligencia artificial para cortar la atención a los ancianos.
• medicina naturalel LancetaY PNAS, y otros editores juntos para desarrollar estándares para el «Uso y divulgación éticos de ChatGPT en la investigación científica». En un correo electrónico, un representante dijo que existía la preocupación de que el uso generativo de la IA pudiera conducir al plagio y al trabajo derivado, pero que la prohibición total de la tecnología podría ser miope.

Las asociaciones de salud de General Catalyst se están expandiendo en Israel

proyecto gigante catalizador general, El patrocinador detrás de empresas como warby parker Y airbnbestá ampliando una lista de sistemas de salud asociados que están probando y utilizando tecnología desarrollada por las empresas de su cartera. Centro Médico Sheba Es el primer socio israelí en unirse a los 15 sistemas de salud con los que GC ya trabaja, incluido HCA, Jefferson, entre montañasy más.

Todos son parte de lo que GC llama su «sistema de garantía de salud ambiental», que planea seguir creciendo al agregar posibles pagadores y compañías farmacéuticas, Daryl Toole, que dirige este departamento, le dijo a Mohana Ravindranath de STAT. Las asociaciones formales con estos grupos externos, dijo, ayudan a GC a cerrar la brecha entre el ritmo conservador y ordenado de la atención médica tradicional y el mundo de las empresas y las nuevas empresas, que son «ad hoc, de rápido movimiento y no siempre casi sistémicas».

El objetivo no es solo incluir la tecnología estadounidense en Sheba, sino también beneficiarse de los productos emergentes de las empresas israelíes emergentes. «Cada vez que creamos capacidad global, la economía global puede calmarse [cultural and regulatory] Las diferencias cuanto más exitosas son esas nuevas empresas.

Una propuesta para rastrear mejor las fallas de los dispositivos médicos

Un panel de expertos que asesora al gobierno federal votó en contra de recomendar una serie de actualizaciones a los formularios de reclamo de Medicare, incluida una propuesta que agregaría identificadores de dispositivos médicos al registro en papel. Estos números de identificación únicos se adjuntan a todos los dispositivos médicos, pero rara vez se agregan a los registros de salud, lo que dificulta la retirada de productos defectuosos.

Como escribe Lizzie Lawrence de STATlos formularios de reclamos de Medicare no se han actualizado desde 2009, y Comité Nacional de Estadísticas Vitales y de Salud Votaron para no seguir adelante con las revisiones ahora debido a obstáculos técnicos. el Centros de Servicios de Medicare y Medicaid Se queja de la dificultad para agregar identificadores desde al menos 2015.

«Es un retroceso en la seguridad y el control del paciente», dijo. Sankt Drovaexperto en seguridad de dispositivos y cardiólogo en Universidad de California, San Francisco. «Nos dejaría con un sistema regulatorio insuficiente para identificar dispositivos inseguros y realizar evaluaciones comparativas».

Leer más aquí.