encerrar aposta betnacional

Plano de OpenAI encerrar aposta betnacional se tornar uma empresa lucrativa pode encorajar cortes de esquina encerrar aposta betnacional segurança, alerta um denunciante

William Saunders, 💻 um ex-engenheiro de pesquisa da OpenAI, disse à Guardian que está preocupado com relatos de que o desenvolvedor do ChatGPT 💻 está se preparando para mudar encerrar aposta betnacional estrutura corporativa e não será mais controlado por seu conselho sem fins lucrativos.

Saunders, que 💻 levantou suas preocupações encerrar aposta betnacional testemunho ao Senado dos EUA este mês, disse que também está preocupado com relatos de que 💻 o chefe executivo da OpenAI, Sam Altman, poderá ter uma participação na empresa reestruturada.

Mais incêntivo para corrida e cortes de 💻 esquina

"Estou mais preocupado com o que isso significa para a governança de decisões de segurança na OpenAI. Se o conselho 💻 sem fins lucrativos não estiver mais a cargo dessas decisões e Sam Altman tiver uma participação significativa, isso criará mais 💻 incêntivo para corrida e cortes de esquina."

A OpenAI foi fundada como uma entidade sem fins lucrativos e encerrar aposta betnacional carta se 💻 compromete a construir inteligência artificial geral (AGI) – que ela descreve como "sistemas que são geralmente mais inteligentes do que 💻 humanos" – que beneficie "toda a humanidade". No entanto, o potencial poder de um sistema AGI tem alarmado especialistas e 💻 praticantes, incluindo Saunders, ante o medo de que a corrida competitiva para construir tal tecnologia possa levar a que as 💻 preocupações com a segurança sejam superadas.

Perda de fé na OpenAI

Saunders disse encerrar aposta betnacional testemunho escrito ao Senado que deixou a empresa 💻 porque "perdeu a fé" de que a OpenAI faria decisões responsáveis sobre AGI. Saunders era membro da equipe de superalinhamento 💻 da OpenAI, um grupo agora dissolvido encarregado de garantir que sistemas de IA poderosos adiram aos valores e objetivos humanos.

Prioridade 💻 à sociedade

Saunders disse que uma mudança para uma entidade lucrativa pode minar os objetivos da estrutura atual, na qual a 💻 OpenAI tem uma entidade lucrativa que limita as retornos a investidores e empregados. Toda a renda gerada acima dessa capa 💻 é devolvida ao sem fins lucrativos "para o benefício da humanidade".

Saunders disse que uma entidade puramente lucrativa pode não distribuir 💻 seus rendimentos de volta à sociedade se, por exemplo, ela desenvolver tecnologia que torna um grande número de empregos obsoletos.

"A 💻 OpenAI deveria permitir apenas lucros limitados para investidores e empregados e dar o resto ao sem fins lucrativos. Então, se 💻 a OpenAI fizesse tecnologia de IA que causasse grande escala de desemprego, eles não estariam simplesmente faturando os lucros e 💻 darão de volta à sociedade. Mudar para uma entidade lucrativa sugere que isso não é mais uma prioridade."

A OpenAI foi 💻 contatada para comentários. Sua carta estatal diz que a empresa está "comprometida encerrar aposta betnacional fazer a pesquisa necessária para tornar a 💻 AGI segura" e recentemente tornou seu comitê de segurança e segurança uma entidade independente, o que também envolveu Altman renunciando 💻 como um de seus membros.