Evite esses pontos cegos arriscados ao usar a empresa da Gen AI em toda a

O interesse pela Gen AI não diminuiu a velocidade, mas a implementação em toda a empresa tem mais riscos. Recente Pesquisa em fabricação Encontraram preocupações crescentes sobre os riscos da Gen AI estão levando os fabricantes a pausar a implantação.

Este artigo explica três pontos cegos que podem ser catastróficos. Mas, primeiro, saiba que o Gen Ai não é como outra tecnologia.

O Gen AI funciona de maneira diferente de outras IA e tecnologia

Três diferenças principais são:

• A Gen AI depende de redes neurais, inspiradas no cérebro. E nós Não entendo completamente o cérebro.
• A GEN AI também depende de grandes modelos de idiomas (LLMS) com grandes conjuntos de conteúdo e dados. O que exatamente está no LLM varia entre as soluções generativas de IA, assim como a abordagem da divulgação.
• Os cientistas não sabem exatamente como o gen ai funciona, como O MIT Review relatou bem.

Embora o Gen AI seja poderoso, está cheio de incógnitas. Quanto mais lançamos luz sobre seus “pegadinhos”, mais você pode gerenciar os riscos de implantá -lo.

Relacionado: Por que Genai é o molho secreto para boas experiências de clientes

1. Intensificando a demanda por transparência

A demanda por transparência sobre como as empresas usam a Gen AI está crescendo do governo, funcionários e clientes. Não estar preparado coloca sua empresa em risco de multas, ações judiciais, perda de clientes e pior.

A legislação do Gen AI proliferou em todo o mundo em todos os níveis. A União Europeia deu o tom com seu Ato da IA. Para permanecer do lado direito deste regulamento, sua empresa precisa divulgar quando e como está usando a Gen AI. Você precisará demonstrar como não substituir os seres humanos para tomar decisões importantes ou introduzir preconceitos.

Ao mesmo tempo, funcionários e clientes querem saber quando e por que estão lidando com a geração AI. Se sua organização usa a Gen AI no processo de contratação, explique isso para os candidatos e os funcionários envolvidos. (Para mais informações sobre a IA na contratação, não perca este guia desenvolvido pela minha equipe e terminal.io.)

Ao se comunicar com os clientes, sua empresa deve divulgar o uso da Gen AI de qualquer forma (voz, texto, bate -papo etc.). Uma maneira está em políticas, como médias faz aqui. Outra maneira é fornecer pistas no experiência do cliente. Por exemplo, shows da AWS Quando resumos de páginas relacionadas são gerados pela IA.

A boa notícia é que, se sua empresa abordar os próximos dois pontos cegos, a transparência será muito mais fácil.

2. Lista crescente de causas de imprecisão

O ditado de longa data “lixo, lixo” é verdadeiro para a IA generativa. O que há de novo na IA generativa é como o lixo pode entrar e, portanto, causar imprecisões.

• Usando mal a IA generativa para matemática: A IA generativa é ruim em matemática e a manipulação de números. Eu compartilhei minha experiência recente com este problema no LinkedIn aqui. Para qualquer experiência envolvendo cálculos, comparações de números e similares, você precisará complementar a Gen AI com outras soluções.
• Lixo no LLM: Se o LLM tiver incorreto, desatualizado ou conteúdo tendenciosoentão seu negócio está em risco. E as chances desse risco que acontecem são mais altas agora do que nunca, porque fontes de conteúdo confiáveis ​​que variam do New York Times a Condé Nast estão se retirando. Pesquisas recentes encontraram um 50% de queda nos dados e conteúdo Disponível para a Gen AI Technologies. Portanto, exija a transparência sobre o LLM de qualquer solução gen ai que você considera antes de se comprometer com uma.
• Lixo em seu conteúdo e dados: Para adaptar a Gen AI para sua empresa, é provável que você precise treiná -lo em seu próprio conteúdo e dados. Mas se esse conteúdo e dados não se encontrarem de forma consistente seus padrõesestão desatualizados ou têm erros, sua empresa está em risco.

Minha empresa pesquisa repetida mostra que as empresas que relatam um alto nível de maturidade das operações de conteúdo são mais rápidas em alavancar a Gen AI do que outras porque têm práticas para documentar os padrões de conteúdo, governar a qualidadee mais.

Se sua empresa não possui essas práticas, você não está sozinho. A boa notícia é que nunca é tarde para se atualizar. Nossa equipe recentemente ajudou o maior varejista de melhoria de residências do mundo a definir padrões abrangentes de conteúdo para comunicações transacionais em todos os canais relevantes em menos de três meses.

Mais boas notícias aqui. Ao fechar lacunas de precisão, você também reduz o risco de sua empresa de introduzir involuntariamente preconceitos ou violar os direitos autorais.

Relacionado: Três casos de uso de Gen-AI que podem ser úteis para organizações

3. A extensão da manutenção necessária

A Gen AI parece mágica às vezes, mas na verdade requer manutenção vigilante pela sua empresa e pela solução gen ai que você escolher. Se você implantar a Gen AI sem uma abordagem clara de manutenção, multiplicará os riscos de 1 e 2 graças a problemas como estes:

• Deriva: Esse problema é quando o mundo real muda, mas seu modelo de gen ai não, como quando o conteúdo e os dados no LLM ficam desatualizados. Estava correto quando você foi lançado, mas agora não é. Imagine um chatbot dando aos seus clientes um fato impreciso sobre um de seus produtos, porque não está ciente desse novo recurso do produto.
• Degradação: Também chamado de colapso do modelo, esse problema é quando sua solução gen ai se torna mais burra em vez de mais inteligente. Uma causa de degradação está ficando sem conteúdo fresco e de qualidade para o LLM. Pesquisas recentes mostram que LLMs, ironicamente, quebrar quando alimentado com conteúdo gerado pela IA.

Portanto, a Gen AI é uma tecnologia exclusivamente poderosa que pode levar o conteúdo da sua empresa a novos níveis de eficácia. Mas esse poder vem com muitos riscos. Leve esses riscos a sério ao planejar sua implementação da AI da Gen, para que você tenha menos dores de cabeça e mais sucesso.