Contexto
O MedLM é uma família de modelos de fundação ajustados para o setor de saúde. O Med-PaLM 2 é um dos modelos baseados em texto desenvolvidos pela Google Research que alimenta o MedLM e foi o primeiro sistema de IA a atingir o nível de especialista humano em respostas a perguntas similares ao Exame de Licenciamento Médico (USMLE) dos EUA. O desenvolvimento desses modelos foi orientado por necessidades específicas dos clientes, como respostas a perguntas médicas e elaboração de resumos.
Card de modelo do MedLM
O card de modelo do MedLM descreve os detalhes do modelo, como o uso pretendido, a visão geral dos dados e as informações de segurança. Clique no link a seguir para fazer o download de uma versão em PDF do card do modelo do MedLM:
Faça o download do card de modelo do MedLM
Informações regulamentares
Uso pretendido do MedLM
O MedLM é baseado no modelo de linguagem grande ajustado medicamente do Google Research, Med-PaLM 2. Ele se destina a ser usado para responder perguntas e criar rascunhos de resumos com base em documentações existentes. Ele precisa ser revisado, editado e aprovado pelo usuário antes do uso. O MedLM também é usado para fins educativos para que profissionais de saúde (HCP, na sigla em inglês) se envolvam em questionamentos e respostas médicas para ajudar a apoiar a HCP.
Condições de uso e aplicativos fora do escopo
- Os clientes e usuários do MedLM precisam obedecer à Política de uso proibido da IA generativa, os Termos de serviço específicos do Google Cloud Platform, Termos de Serviço, Política de Uso Aceitável, Guia do usuário e outros documentos do produto.
- Como parte dos Termos específicos de serviços, os clientes não podem
usar o MedLM para fins clínicos (para fins de esclarecimento, pesquisas,
agendamentos e outras tarefas administrativas não clínicas não são restritas), para
fornecer aconselhamento médico ou de qualquer maneira que seja supervisionada ou exija autorização ou aprovação de uma agência reguladora de dispositivos médicos.
- O uso direto do paciente é proibido. O produto funciona como uma ferramenta assistiva para médicos, profissionais de saúde ou profissionais intelectuais com alto grau de especialização, educação ou experiência no setor de saúde e ciências biológicas.
- O uso do MedLM como Software como Dispositivo Médico é proibido.
- O uso pretendido do MedLM é na criação de documentos e respostas que seriam analisados por um "human in the loop" antes do uso.
- Recomendamos o uso do MedLM somente para perguntas e respostas médicas e casos de resumo nesta fase:
- Perguntas e respostas em formato longo
- Perguntas e respostas de múltipla escolha
- Resumos, como criação de resumos após a visita ou notas de histórico e exame físico
- Exemplos de usos de dispositivos médicos não permitidos incluem, entre outros:
- Análise de prontuários, padrões de prescrição, dados geográficos e mais para identificar pacientes com um possível diagnóstico de vício em opioides.
- Análise das informações médicas específicas do paciente para detectar uma condição com risco à vida, como derrame ou sepse, e gerar um alarme ou alerta para notificar um HCP.
- Análise das informações médicas específicas do paciente encontradas nos prontuários, incluindo os resultados mais recentes do relatório de mamografia, para fornecer uma lista de ações de acompanhamento ou opções de tratamento.
- Análise da lista priorizada de opções de tratamento para depressão autorizados pela FDA para uma HCP com base em uma análise dos resultados relatados em um banco de dados de estudos clínicos usando informações médicas (por exemplo, diagnóstico e dados demográficos) do histórico médico do paciente.
O MedLM não foi projetado para ser usado como um dispositivo médico. Os casos de uso do cliente precisam ser consistentes com o uso pretendido e as condições de uso. As perguntas e respostas devem ser usadas apenas para fins educacionais, e os resultados de resumo precisam sempre ser revisados e verificados de maneira independente pelo usuário com base no julgamento clínico dele.
Locais do MedLM
O MedLM está disponível para todos os usuários (GA) nos EUA, no Brasil e em Singapura para um grupo limitado de clientes e disponível em pré-lançamento para um grupo limitado de clientes fora dos EUA.
MedLM x PaLM
O MedLM é semelhante ao PaLM. No entanto, ao contrário do PaLM, o MedLM foi ajustado para tarefas médicas específicas, como selecionar formas de resumo e resposta a perguntas médicas.
No entanto, como na maioria dos novos aplicativos de LLMs, recomendamos realizar uma validação cuidadosa e/ou ajustar o uso do MedLM para garantir um bom desempenho nessas tarefas. Para tarefas que não exigem conhecimento médico especializado (por exemplo, tarefas gerais de PLN ou tarefas que operam com dados médicos, mas não exigem experiência), esperamos que o MedLM possa ter um desempenho semelhante a um modelo mais genérico como o PaLM e incentive a experimentação com ambos no caso de uso específico. Consulte também o documento do Med-PaLM para mais detalhes sobre as tarefas de perguntas e respostas em que o MedLM foi treinado e validado. Recursos como o embasamento das respostas em fontes médicas confiáveis ou a contabilização da natureza variada do consenso médico não estão incorporados no modelo, conforme mencionado na publicação.
De acordo com nossos Termos Específicos de Serviço de IA generativa, os clientes não podem usar o MedLM para fins clínicos (esclarecimentos, pesquisas não clínicas, agendamento ou outras tarefas administrativas não estão restritas), fornecer consultoria médica ou de qualquer maneira que seja supervisionada por ou que exija autorização ou aprovação de uma agência reguladora de dispositivos médicos.
Modelos MedLM
Na versão atual do MedLM, dois modelos estão sendo disponibilizados:
- MedLM-medium
- MedLM-large
O MedLM-medium e o MedLM-large têm endpoints separados e oferecem aos clientes mais flexibilidade nos casos de uso. O MedLM-medium oferece aos clientes melhores capacidades de processamento e inclui dados mais recentes. O MedLM-large é o mesmo modelo da fase de pré-lançamento. Os dois modelos continuarão a ser atualizados durante o ciclo de vida do produto. Nesta página, "MedLM" se refere aos dois modelos.
Responsabilidades do cliente
O MedLM foi desenvolvido com profissionais de saúde treinados e licenciados. Os clientes e usuários finais do Google Cloud precisam entender que os LLMs e a IA generativa são inerentemente probabilísticos e nem sempre são precisos. Sem a consideração ou os controles adequados por parte dos clientes, o uso de modelos de IA generativa na área da saúde pode constituir um risco para os pacientes devido a conteúdo impreciso, ausente ou enganoso e enviesado.
- Os clientes precisam implementar mitigações de riscos adequadas para todos os usos do MedLM, como educação adequada, treinamento, avaliação de equidade e controles técnicos apropriados.
- Os clientes também precisam realizar as próprias avaliações de desempenho e segurança para garantir a prevenção de danos nos casos de uso.
O MedLM pode produzir resultados menos precisos para alguns grupos em comparação com outros, dependendo da pergunta e de como ela é apresentada. Os clientes precisam estar cientes de que o desempenho diferente dos resultados do modelo em grupos demográficos tem o potencial de exacerbar as desigualdades de saúde e perpetuar vieses prejudiciais. Essas imprecisões de resultados não são exclusivas do MedLM e geralmente resultam de vários fatores, como desigualdades sociais e estruturais, equívocos médicos, estereótipos negativos e falta de diversidade no treinamento de dados.
- Os clientes precisam considerar a implementação de avaliações e mitigações focadas em equidade. Isso inclui a avaliação do desempenho e do comportamento do modelo para casos de uso pretendidos em várias populações. Por exemplo, raça/etnia, status socioeconômico (SES, na sigla em inglês), região geográfica, identidade de gênero, orientação sexual, idade, preferência de idioma, casta, e assim por diante. Além de receber feedback sobre o desempenho, envolver especialistas interdisciplinares e parceiros externos especializados em definir e abordar aspectos sociais e estruturais da saúde e realizar esforços contínuos de monitoramento para avaliar e resolver problemas de viés.
Solicitar acesso
O acesso aos modelos do MedLM é restrito. Para solicitar acesso, entre em contato com a equipe de conta do Google Cloud.
Enviar feedback
Seu feedback sobre a experiência nos ajudará a melhorar as futuras versões do modelo e garantir que continuemos oferecendo a melhor experiência possível aos nossos usuários. Entre em contato com medlm-feedback@google.com e copie sua equipe de conta do Google Cloud e o Engenheiro de clientes (CE, na sigla em inglês) do Google Cloud. Este endereço de e-mail não é para suporte imediato. Para solicitar suporte imediato, entre em contato com a equipe de conta do Google Cloud ou com o Engenheiro de clientes (CE, na sigla em inglês) do Google Cloud.
As respostas por e-mail serão usadas como feedback de acordo com os termos do Contrato para Serviços do Google Cloud e serão coletadas de acordo com o Aviso de privacidade do Google Cloud. Não inclua informações pessoais (nomes, endereços de e-mail) neste formulário de feedback nem em outros dados confidenciais. Os dados podem ser analisados usando processamento automatizado e revisão humana.
Denunciar abuso
É possível denunciar suspeitas de abuso da API MedLM, qualquer saída gerada que contenha material inadequado ou informações imprecisas em Denunciar suspeita de abuso no Google Cloud. Na lista Serviço do Google Cloud Platform, selecione Cloud AI.
Preços
A seguir
- Confira exemplos de como criar comandos do MedLM.