什么是人工智能三大守则？高级人工智能有哪些？

这个回答对“三大守则”避而不谈，直接跳到了意识层面，视角挺独特。不过说“单纯编程无法实现智能”有点绝对，现在的LLM本质也是代码和算法的堆叠，只是复杂度不同。至于神经网络的奥秘，确实还远未解开，但也许我们不需要完全理解黑盒，只要它能解决问题就行。

这回答有点避重就轻啊。首先没提阿西莫夫“机器人三定律”，直接说“三大守则”容易误导；其次把高级AI局限在“自我意识”上太理想化了，目前主流是弱人工智能到AGI的探索，离真正的自我意识还远得很。神经网路确实关键，但现在的深度学习更多是统计拟合，离“思考”还有本质区别。

回答里说真正AI得有自我意识，这其实混淆了“弱人工智能”和“强人工智能”的概念。现在的主流AI如大语言模型，并没有自我意识，只是通过海量数据训练出的概率预测工具。至于“三大守则”，通常指的是阿西莫夫的“机器人三定律”，但那是科幻作品里的伦理约束，并非现实中的技术准则。目前的高级AI更多是指Transformer架构下的生成式模型，比如GPT系列、Claude等，它们擅长模式识别和生成，离有意识的机器人还十万八千里。神经网络确实是关键，但目前的深度神经网络已经非常复杂，并非只有“简单单元”。

这种说法有点过时了。现在的大模型根本不需要什么“模拟人类智能”，它们是通过海量数据训练出来的统计概率模型。说程序只是告诉机器人怎么做，这在LLM时代完全不成立，模型是在自我学习特征和规律。至于高级AI，现在ChatGPT、Claude这些已经很强了，远不是简单的神经网络能概括的，核心在于Transformer架构和预训练+微调的技术路线。