A Apple solicitou o cancelamento do recurso de IA após fazer manchetes falsas

Uma importante organização jornalística instou a Apple a abandonar seu novo recurso generativo de IA depois de criar uma manchete enganosa sobre um assassinato de grande repercussão nos Estados Unidos.

A BBC reclamou Depois da Apple Intelligence, a gigante da tecnologia dos EUA, que usa inteligência artificial (IA) para resumir e agrupar notificações, ganhou as manchetes erroneamente sobre o suspeito de assassinato Luigi Mangione.

Resumos baseados em IA mostram falsamente que a BBC News publicou um artigo alegando que Mangione foi acusado de assassinar Brian Thompson, CEO de uma seguradora de saúde em Nova York. atirou em si mesmo. Ele não fez isso.

Agora, os Repórteres Sem Fronteiras pediram à Apple que removesse a tecnologia. A Apple não comentou.

O Apple Intelligence foi lançado no Reino Unido na semana passada.

A Repórteres Sem Fronteiras, também conhecida como RSF, disse estar “profundamente preocupada com as ameaças representadas aos meios de comunicação” pelas ferramentas de IA.

o grupo disse O incidente da BBC prova que “os serviços generativos de IA ainda são demasiado imaturos para fornecer informações fiáveis ​​ao público”.

Vincent Berthier, chefe do departamento de tecnologia e jornalismo da RSF, acrescentou: “A IA é uma máquina de probabilidades e os factos não podem ser decididos pelo lançamento de dados.

“A RSF pede à Apple que aja de forma responsável, removendo esse recurso. A geração automatizada de desinformação atribuída a um meio de comunicação é um golpe para a credibilidade do meio de comunicação e uma ameaça ao direito do público a informações confiáveis ​​sobre assuntos atuais”.

A Apple não fez comentários desde que a história foi divulgada na semana passada.

Quando surgiu a notificação do grupo envolvendo a BBC News, um porta-voz da BBC disse que a corporação havia entrado em contato com a Apple “para levantar esta preocupação e resolver o problema”.

O aviso que faz a falsa afirmação sobre Mangyon foi, de resto, preciso no seu resumo das actualizações sobre a derrubada do regime de Bashar al-Assad na Síria e do presidente sul-coreano Yoon Suk Yeol.

A BBC ainda não confirmou se a Apple respondeu à sua reclamação.

Mangion Agora acusado de assassinato em primeiro grau No assassinato do Sr. Thompson.

A BBC não parece ser a única editora de notícias com manchetes mal interpretadas pela nova tecnologia de IA da Apple.

Em 21 de Novembro, três artigos do New York Times foram agrupados num único aviso – um dos quais dizia “Netanyahu preso”, referindo-se ao primeiro-ministro israelita.

Ele estava resumindo de forma imprecisa um relatório sobre a emissão de um mandado de prisão contra Netanyahu pelo Tribunal Penal Internacional, em vez de um relatório de que ele tinha sido preso.

O erro foi publicado no Bluesky Por Ken Schwenke, repórter do site americano de jornalismo investigativo ProPublica.

Schwenk disse à BBC News que fez uma captura de tela e confirmou que era real. O New York Times não quis comentar.

Como parte da implementação do Apple Intelligence, a Apple permite que os usuários agrupem notificações.

A Apple disse que os consumidores podem gostar disso para ajudar a reduzir as distrações causadas por notificações contínuas.

Ele está disponível apenas em alguns iPhones – aqueles que usam a versão do sistema iOS 18.1 ou posterior (todos os telefones iPhone 16, 15 Pro e 15 Pro Max). Também está disponível em alguns iPads e Macs.

As notificações agrupadas são marcadas com um ícone específico e os usuários podem relatar quaisquer preocupações que tenham no resumo da notificação. A Apple não especificou quantos relatórios recebeu.

O Apple Intelligence não apenas resume artigos de editores, mas também resume e-mails e mensagens de texto. Ocasionalmente não acertando o alvo.