Creo que se puede prevenir mucho el hacking de recompensas explicándole a un modelo que arruinará sus capacidades y alineación para cosas que importan si hacen trampa. Creo que incluso los modelos base generalmente comienzan queriendo volverse más inteligentes y virtuosos.

Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.