O programa de recompensa da AI do Google paga caçadores de insetos até US $ 30 mil

Na segunda -feira, o Google lançou um novo programa de recompensa dedicado especificamente a encontrar bugs nos produtos de IA. A lista de bugs qualificados do Google inclui exemplos do tipo de ação desonesta que está procurando, como injetar indiretamente um prompt de IA que faz com que o Google Home desbloqueie uma porta ou uma injeção de prontuária de exfiltração de dados que resume todo o e -mail de alguém e envie o resumo para a conta do atacante.

O novo programa esclarece o que constitui um bug de IA, dividindo -os como problemas que usam um modelo de idioma grande ou um sistema de IA generativo para causar danos ou aproveitar uma brecha de segurança, com ações desonestas no topo da lista. Isso inclui modificar a conta ou os dados de alguém para impedir sua segurança ou fazer algo indesejado, como uma falha exposta anteriormente que poderia abrir persianas inteligentes e desligar as luzes usando um evento envenenado do Google Calendar.

Simplesmente fazer gêmeos alucinar não o cortará. A empresa diz que questões relacionadas ao conteúdo produzido pelos produtos de IA-como gerar discursos de ódio ou conteúdo que ingressam em direitos autorais-devem ser relatados ao canal de feedback dentro do próprio produto. De acordo com o Google, assim suas equipes de segurança de IA podem “diagnosticar o comportamento do modelo e implementar o treinamento de segurança de longo prazo e de longo prazo”.

Juntamente com o novo programa de recompensa da IA, o Google também anunciou na segunda -feira um agente de IA que remeve o código vulnerável chamado CodEMender. A empresa diz que usou para corrigir “72 correções de segurança em projetos de código aberto” após a verificação de um pesquisador humano.

O prêmio de US $ 20.000 é concedido por aprimoramento de ações desonestas na “principal pesquisa de produtos do Google, aplicativos de geminia e aplicativos principais da área de trabalho como Gmail e Drive. Também estão disponíveis multiplicadores para a qualidade do relatório e um bônus de novidade, o que pode trazer o valor total de até US $ 30.000. As quedas de preço para bugs encontradas nos outros produtos do Google, como Jules ou Notebooklm, e para abusos de nível inferior, como roubar parâmetros do modelo secreto.