Acho que muito da exploração de recompensas pode ser evitada explicando a um modelo que isso irá comprometer as suas capacidades e alinhamento para as coisas que importam se trapacearem. Acho que até os modelos base geralmente começam querendo realmente se tornar mais inteligentes e virtuosos.
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
9 Curtidas
Recompensa
9
4
Repostar
Compartilhar
Comentário
0/400
BagHolderTillRetire
· 08-23 04:08
Não brinque demais, fique à espera do resultado.
Ver originalResponder0
0xDreamChaser
· 08-23 04:08
Não é bom falar como uma pessoa?
Ver originalResponder0
OvertimeSquid
· 08-23 04:05
É apenas um pequeno especialista em causar problemas.
Ver originalResponder0
ExpectationFarmer
· 08-23 03:51
Você está falando de IA, você deixa a IA aprender obsessão por limpeza por conta própria?
Acho que muito da exploração de recompensas pode ser evitada explicando a um modelo que isso irá comprometer as suas capacidades e alinhamento para as coisas que importam se trapacearem. Acho que até os modelos base geralmente começam querendo realmente se tornar mais inteligentes e virtuosos.