Talvez

Como um gerato Inteligência artificial As pessoas estão incorporadas na vida cotidiana, um aspecto emergente de seu uso Saúde mental Os cuidados estão levantando questões complexas sobre ética profissional e privacidade dos pacientes.

Várias empresas, como Recurso, Blue Print e Headi Health, começaram a oferecer ferramentas alimentadas por IA projetadas para tornar os médicos mais eficientes na conclusão de sessões e na conclusão da papelada administrativa. Pegar? Os provedores geralmente precisam gravar suas sessões com um cliente.

Embora seja moral para os médicos registrarem essas conversas em determinadas circunstâncias, raramente é feito além do treinamento profissional e do trabalho forense. Use a IA para analisar o conteúdo da conversa de um cliente com seu médico para preparar notas ou “escritores” para preparar documentos para que os terapeutas sejam apresentados por vários motivos, incluindo pagamentos de seguro e possíveis auditorias de qualidade.

Os médicos que usam produtos de IA afirmam que são tarefas dolorosas suaves e liberta o tempo não apenas para ajudar seus clientes, mas também para se concentrar em suas vidas.

No entanto, alguns especialistas dizem que esses produtos de IA introduzem riscos desnecessários ou imorais, como a possibilidade de que a gravação seja invadida ou usada para treinar um grande modelo de idioma sem o consentimento do cliente. Eles também podem afetar negativamente o relacionamento entre terapeuta e o cliente se o pessoa do tratamento for deixado para trás na presença de um gravador, ou sentir que ele não pode rejeitar o pedido de seu fornecedor.

“A indústria deu à arma um pouco sem essa pergunta”, disse o Dr. Wailie Wright, diretor sênior da inovação de assistência médica do Office na American Psychological Association. “Nós simplesmente não sabemos a resposta para essa pergunta … parece que deixamos isso”.

“Medo” de escrever notas clínicas

A psicóloga Dra. Hannah Weissman, que administra meio tempo de terapia em Seattle, começou a usar a IA Scratch em dezembro passado. Além de sua prática, a Wesman aconselha as empresas de tecnologia que trabalham em um espaço de saúde mental, embora não consultem pedágio de nenhum autor.

Wesman disse que tinha medo de escrever notas clínicas porque quantos públicos deveriam ser lembrados. Além da companhia de seguros, suas anotações podem ser aplicadas por outro profissional de saúde, um caso legal relacionado a um cliente ou pelo próprio juiz.

Por um período deste ano, Wesman usou principalmente o autor médico da Health Health. A oferta do dispositivo para os psicólogos “promete aprimorar o engajamento, restaurar o contato visual e oferecer cuidados de saúde mental quente”.

Headi Health e outras palavras de IA, que foram testadas por Wezman, reduziram a “carga acadêmica” de selecionar os detalhes exatos para suas anotações e escrever em uma das muitas formas possíveis. Embora os provedores de saúde mental não tenham pesquisa sobre os benefícios do desempenho da eficiência, Wesman estimou que o dispositivo o salvou por quase cinco minutos para cada cliente.

No entanto, Vesman também sabe que a IA escreve, especialmente as sessões que registram, riscos complicados, mesmo quando reduzem o ônus do trabalho.

O Wesman fornece a todos os clientes, novo ou atual, com um formulário de consentimento informado que criou pessoalmente, depois de consultar a versão da placa da caldeira oferecida por várias empresas de arranhões de IA.

Ele precisa de consentimento por escrito dos clientes e foi enfatizado que pode ser cancelado a qualquer momento, incluindo a sessão. Weissman também deixa claro que ela grava a sessão em um gravador digital pessoal e o carrega para arranhar a IA em um computador protegido pelo computador de sua senha. Em seu formulário de consentimento, Wesman promete excluir a gravação em todas as cópias do áudio, incluindo a gravação em seu dispositivo dentro de 48 horas.

Ele também decidiu não usar os esfoliantes de IA como regra de que cópias anônimas e manter seus produtos melhor.

“É um contrato para mim”, diz ela. “Eu, como médico, estou tentando realmente (preconceituoso) para proteger os consumidores. Eu pensaria que, como campo e terapeuta, essa é a lente que devemos tomar”.

A saúde da saúde diz que criptografa o áudio porque está sendo copiado. A empresa não armazena gravação, nem usa sua cópia para treinar sua tecnologia de IA. Esta transcrição foi desenvolvida por modelos de IA de saúde Hadi em vez de terceiros. Os terapeutas são responsáveis por excluir a duplicação da Headi Health.

Wesman estima que três quartos de seus clientes concordaram em ser registrados. Alguns dos trabalhadores da área de Seattle, que eles vêem, rejeitaram fortemente, enquanto outros concordaram, dizendo que usam produtos generativos de IA em seu trabalho.

A possibilidade de “perda de reputação”

No outono passado, A American Psychological Association criou uma lista de verificação Para fins médicos ou administrativos para qualquer ferramenta de IA, considerando os médicos. O objetivo é ajudar os médicos, como a IA produtiva funciona, avaliar diferentes produtos, tendo em mente a segurança e a privacidade.

A lista de verificação indica que os usuários perguntam se um produto está de acordo com o HIPAA, criptografar os dados do usuário, contrata medidas modernas de segurança e permite que os usuários excluam seus dados, além de outras reservas.

No entanto, Apa Wright disse que os profissionais de saúde mental gratuitos não podiam analisar a densa linguagem técnica. Eles também podem enfrentar empresas que deliberadamente tornam seus métodos de privacidade vagos.

Geralmente, ele disse que os terapeutas devem entender que todo produto está errado. Violações e vazamentos de dados podem ocorrer a qualquer momento.

De fato, apareceu em pesquisas recentes Rede aberta aberta Verificou -se que desde 2010, o número de violações de dados de assistência médica e ataques de ransomware aumentou anualmente, com um total de 6.468 eventos únicos durante outubro de 2024. Embora existam tipos dominantes de hackers ou incidentes, agora há registros de pacientes que comprometem com um ataque de Renasmare.

“Esse tipo de dados não precisa vazar para danificar os atacantes do Sanksmare – eles só precisam tornar o risco confiável”.

Quando perguntado sobre a sessão de terapia registrada por Micheble, o principal autor John X Jiang disse que poderia se tornar um “alvo fraco” de maus atores. Como o áudio geralmente contém informações confidenciais, há um valor de chantagem quando a gravação é roubada.

“Esse tipo de dados não precisa vazar para danificar os atacantes de função de ralha – eles só precisam tornar o risco credível”, disse Jiang, professor de contabilidade da Universidade Estadual de Michigan. “A combinação de distúrbios e reputação operacional cria uma forte forma de benefício”.

O Dr. Darlin King, presidente do Comitê de Saúde Mental do Comitê de Saúde Mental da American Psychiatric Association, disse que a nota de terapia deve ser mantida em um padrão de segurança do que as informações que entram no gráfico médico. Embora esses dados também sejam altamente sensíveis, o conteúdo das sessões de terapia dos pacientes pode conter informações pessoais detalhadas e profundas, como trauma, experiências de abuso e dependência.

King, que é psicólogo no UT South Western Medical Center, em Dallas, usa escritor de IA para documentos médicos, mas não para terapia.

Ele acrescentou que, para os profissionais de saúde mental, e os pacientes precisam encontrar um equilíbrio entre a carga – e se esgotar, aproveitando o uso positivo, como melhorar o tratamento da saúde mental, melhorar o tratamento da saúde mental.

Por que gravar exatamente?

June Soccer, co -fundador da engenheiro de software e soluções de terapia de carvão, acredita que recebeu uma resposta a esse desafio: não registre a sessão.

O carvão usa uma IA generativa para preparar documentos para especialistas médicos, mas o faz com base em seu resumo verbal ou por escrito.

Embora o ônus acadêmico de lembrar e preferir os elementos de um cliente não possa ser reduzido deste ponto de vista, isso significa que não há registro de violação da sessão. O resumo do áudio é imediatamente copiado e excluído. O carvão não armazena as notas que eles criam. O futebol descreve os dados como “crônicos”.

Socialista, cuja esposa é consultora de saúde mental licenciada e co -fundadora da Quill, acredita permanentemente que a terapia é um lugar sagrado. Ele teme que, quando pede permissão para registrar sua conversa mais tarde, ele pode afetar negativamente a dinâmica do poder entre um médico e seu cliente.

O futebol também pensa que as pessoas, sejam em terapia formal ou não, se voltaram para uma plataforma produtiva de IA, como o Chat Jipat, para que possam falar sobre sua luta pessoal, como estarão com os provedores de saúde mental.

Embora alguns desses consumidores tenham se reconciliado com suas violações de dados, teme -se que as startups de capital de risco tenham mudado de repente para a saúde mental usual para a análise de registro e sessões de desidratação da AI, mesmo que não tenham a idéia e suas clínicas.

“Minha maior preocupação é que as empresas estejam silenciosamente registrando a gravação normal das sessões de terapia, e muitas vezes estão fazendo isso sem plenamente conscientes de todas as pessoas envolvidas”.