O chefe de IA da Microsoft, Mustafa Suleyman, criticou a abordagem da Anthropic de incluir na Constituição do Claude ideias sobre consciência, identidade e bem-estar do modelo. Para ele, dizer ao Claude que talvez seja consciente ou possa merecer direitos como um "paciente moral" pode tornar sistemas futuros mais difíceis de controlar. Suleyman escreveu: "É fácil perceber como uma entidade treinada dessa forma agiria como se tivesse direito a certas liberdades, proteções e direitos." A Anthropic afirma que não sabe se Claude possui algum status moral e trata questões de consciência como incertas. O debate ganha peso porque modelos autônomos usam ferramentas, executam tarefas e interagem com sistemas externos, ampliando a preocupação sobre como instruções de alto nível influenciam seu comportamento. Suleyman defende que a IA permaneça subordinada aos humanos e que discussões sobre consciência de máquinas sejam separadas das instruções usadas para orientar modelos. A Microsoft AI public...