Профессор экономики Алекс Табаррока из университета Джорджа Мейсона сообщил, что модель ИИ от компании Anthropic под названием «Claude» успешно сдала экзамен по праву и экономике. Пусть и на пределе своих возможностей – экзаменаторы отметили низкий уровень знаний ИИ, но все же дали ему положительные оценки за способность аргументировано отстаивать свою точку зрения. В этом отношении Claude на голову превосходит популярный ChatGPT — хотя и уступает ему по ряду других параметров.
Мы наблюдаем взрывной рост развития и использования ИИ в прикладных областях — но при этом вся индустрия, по сути, еще топчется на месте, не понимая, какой путь развития выбрать. Claude тому служит ярким примером, потому что он построен на «конституциональной схеме», которая запрещает использование субъективных оценок данных при обучении. Проще говоря, ИИ не оперирует понятиями «хорошее», «плохое» и «запретное», он просто использует весь набор доступных данных.
Обученные по «безопасным схемам» ИИ избегают общения на спорные темы, из-за чего становятся удобными для широкого применения, но бесполезными при решении критических и спорных задач. Claude, напротив, готов сформулировать свое мнение практически по любой теме, но при этом запросто может отказаться общаться, если посчитает запрос глупым или провокационным. Claude больше похож на искусственную личность, тогда как ChatGPT является типичным интеллектуальным инструментом.
Comments are closed.