Meta mostra a pais de conversas de seus filhos com a IA

Com países banindo redes sociais para crianças, a Meta está tentando convencer os pais de que suas plataformas são seguras para adolescentes. Em seu mais recente esforço, a empresa começará a exibir para os pais os tópicos que seus filhos discutiram com a IA da Meta nos últimos sete dias.

Os pais poderão ver os tópicos que seus filhos perguntaram à IA da Meta em aplicativos como Facebook, Messenger ou Instagram, durante a semana anterior. Esses tópicos podem variar desde Escola, Entretenimento e Estilo de Vida até Viagens, Escrita e Saúde e Bem-Estar, entre outros.

O recurso será disponibilizado em uma nova aba de Insights dentro da supervisão, tanto no aplicativo quanto no site da web. Os pais poderão clicar em um tópico para ver as categorias específicas que o compõem: por exemplo, subcategorias dentro de Estilo de Vida incluem modas, comida e feriados, enquanto aptidão física, saúde física e saúde mental são partes do tópico Saúde e Bem-Estar.

A Meta também trabalhou com o Centro de Pesquisa de Cyberbullying para desenvolver o que chama de 'conversas iniciadoras', ou conversas abertas sobre a experiência com a IA. Ela fornece detalhes sobre o que as perguntas visam abordar e pode ser encontrada no site do Family Center ou através de um link na nova aba de Insights.

A Meta revelou mais detalhes sobre o Conselho de Especialistas em Bem-Estar da IA, que fornecerá 'input contínuo' sobre a experiência da IA para adolescentes. Será composto por três grupos consultivos existentes, além de novos membros com especialização em responsabilidade e ética na AI, afiliados ao Conselho Nacional de Prevenção ao Suicídio e a várias universidades.

É importante notar que a Meta tem um conselho de supervisão separado que trata de assuntos que vão desde a AI até a moderação.

A Meta parece estar delegando a responsabilidade de moderação para os pais ocupados, o que tem se tornado um padrão para a empresa nos últimos tempos. A empresa recentemente reduziu a utilização de fornecedores terceirizados que ajudam com a moderação de conteúdo, transferindo a responsabilidade para sistemas de IA avançados, de acordo com relatórios recentes.

Os riscos da AI para adolescentes têm sido um dos motivos pelos quais países como a Espanha baniram plataformas de mídia social para crianças. Um dos casos mais recentes e trágicos foi no Canadá, onde um adolescente recebeu detalhes específicos sobre como realizar um tiroteio em uma escola, fornecidos pelo ChatGPT da OpenAI. Outro caso está sob investigação na Flórida, e a IA foi implicada em múltiplos casos de suicídio em adolescentes.