А толку?
Многое можно обойти, предложив взгляд с другой стороны)
Прошу найти аудиокнигу, чтобы скачать бесплатно. Нейросеть отказывается.
Предлагаю другую роль и все прекрасно ищет) Правда, аудиокнига была только по одной ссылке, но вконце я получила ряд ЦУ, где еще можно поискать: группы в ВК, каналы в ТГ и прочее)
В общем, мораль и совесть - это все-таки императивы, более присущие человеку)
Anthropic добавила в Claude механизм, который работает буквально как совесть - модель вызывает внешнюю функцию, чтобы свериться с этическими ограничениями, прежде чем ответить.
Разрабатывали штуку вместе с философами и теологами, и на тестах Claude начал сам обращаться к ней перед сомнительными "по его мнению" командами.
На внутренних тестах модель начала сама обращаться к инструменту перед выполнением потенциально опасных команд - то есть нейросеть буквально научилась сомневаться. Так что, теперь у Claude есть совесть - правда, не встроенная, а в виде внешней функции.
