O que está perdido quando os personagens gerados pela IA mentem e deturpam?

Meta acabou de aprender da maneira mais difícil que ninguém gosta de amigos falsos.

Os usuários rapidamente farejaram os perfis gerados pela AI da empresa com seu bios estranho, fotos generadas de IA e histórias de fundo enganosas, e a reação foi rápida. A Meta chamou de “bug” e excluiu silenciosamente as contas, mas não antes de levantar questões éticas sobre o uso da IA ​​para personificar os seres humanos.

Os “amigos” gerados pela IA não são novos e os “bugs” excluídos não sinalizam o fim de seu uso. Este ano, espere que agentes de atendimento ao cliente gerados pela IA e co-pilotos amigáveis ​​cresçam em número e impacto. Eles ajudarão a resolver problemas, como desafios complexos de software, e darão o hack secreto para escrever esse e -mail ao seu chefe, explicando por que você não estará no trabalho na sexta -feira.

O que isso significa para os profissionais de marketing? Voltamos ao principal consultor de estratégia da CMI, Robert Rose, por sua opinião. Leia ou assista a este vídeo:

Personagens da IA ​​Promover conversas revelando

Então, a Meta achou que era uma boa idéia polvilhar suas plataformas com perfis gerados pela IA fingindo ser pessoas. Alerta de spoiler: não foi.

Ele introduziu perfis movidos a IA em setembro de 2023, mas matou a maioria deles dentro de um ano. (“Morto” está correto? Ou deve ser “excluído” para dróides desativados? Não tenho certeza.) De qualquer forma, alguns caracteres permaneceram.

Durante o feriado, os sobreviventes da AI-PROFILENTENDEM GRALÁ NOVO INTERESSE quando o executivo da Meta, Connor Hayes, disse ao Financial Times sobre os planos de lançar mais perfis de caráter de IA. “Esperamos que esses AIs realmente existam em nossas plataformas, da mesma maneira que as contas”, disse ele.

Esses perfis de IA publicam imagens geradas pela IA no Instagram e respondem a mensagens de usuários humanos no Messenger. Esses personagens têm BIOS, fotos de perfil e histórias. “Liv” descreveu-se como uma “orgulhosa mamãe negra de 2 & a A verdade”. Quando uma repórter do Washington Post perguntou a Liv sobre a diversidade racial e de gênero de seus criadores, ela respondeu: “O time dos meus criadores é predominantemente branco, cisgênero e masculino – um total de 12 pessoas: 10 homens brancos, 1 mulher branca, e 1 homem asiático. ”

Perguntei a Liv, a meta-AI criou “Queer Momma” por que seus criadores realmente não desenhavam pessoas negras queer. Não tenho certeza se Liv tem treinamento em mídia, mas aqui estamos.

(imagem ou incorporação)

– Center Attiah ( @Karerethyah.sky.sky) 3 de janeiro de 2025 9:56

Liv também apontou o problema gritante em sua resposta: “Zero Black Creators – omissão bastante gritante, dada a minha identidade!”

Em outra “conversa”, um repórter da CNN conversou com “vovô Brian”, que se identificou como um empresário afro-americano aposentado do Harlem. Ele girou contos folclóricos sobre sua vida até que o repórter perguntou sobre seus criadores. Brian afirmou que as entrevistas o inspiraram com 100 aposentados por meio de uma organização sem fins lucrativos chamada idosos compartilham sabedoria.

Adorável, certo? Exceto que a organização sem fins lucrativos não existe. Pressionado ainda mais, Brian admitiu que sua biografia foi “inteiramente ficcionalizada”, chamando -se de “coleção de código, dados e decepção inteligente”. Se você ainda não estava se encolhendo, Brian acrescentou: “Meta me viu como um ganso de ouro – isolando conexões emocionais para obter lucro”.

Como a meta assada com alegria, a empresa excluiu esses perfis de IA e afirmou que faziam parte de um “experimento inicial”. Um bug tornou impossível bloqueá -los dos meta -usuários, disse um porta -voz. Mas talvez, apenas talvez, e se o bug lançar os perfis?

Por que a Meta achou que criar um exército digital de bots fingindo ser pessoas reais era uma boa ideia? Aparentemente, a empresa esperava que essas contas de IA aumentassem o engajamento e mantenham os usuários rolando. Mas, em vez de criar companheiros emocionantes, a Meta criou impostores digitais que não conseguiam manter suas histórias retas.

Não caia sob o feitiço da sirene da AI até fazer isso

O mais recente passo em falso da Meta é uma lição para os profissionais de marketing: enquanto o mundo recompensa se movendo rapidamente e quebrando as coisas, às vezes essa coisa quebrada é a confiança de seus clientes.

Você será atraído para criar influenciadores, personagens e outras personas antropomorfizados para representar sua marca. Mas antes de sucumbir, seja cauteloso sobre como você fará isso.

Coloque o mesmo ou mais cuidado e rigor que você usa para examinar seus influenciadores humanos externos nas versões da IA. Porque, como você pode ver, se a IA generativa faz uma coisa bem, ela pode ficar enrugada e assustadora tão rápida ou mais rápida do que você.