人工智能数学笔记？ 人工智能数学书？

人工智能:一种现代的方法Chapter3笔记

1、Chapter3笔记：1 问题求解Agent：在求解问题前，需要对问题进行形式化定义，明确目标、行动集合和状态集合。目标是找到从初始状态到目标状态的最优行动序列，解的质量通过路径耗散函数来衡量。1 问题与解的定义：问题由初始状态、行动和转移模型组成，状态空间通常表现为有向网络。

2、通过搜索求解 搜索算法核心是构建状态空间树，寻找从初始状态到目标状态的路径。搜索策略决定了如何选择扩展节点，如宽度优先、深度优先、一致代价搜索等，每种策略都有其优缺点和适用场景。

3、学习笔记：《人工智能：一种现代方法》人工智能的核心概念：人工智能研究的是通过感知环境信息并执行相应行动的智能体。智能体的核心功能是将感知序列转化为行动的映射函数，这是人工智能的基石。

4、近期，我重新聚焦于人何为人这一深刻问题，以此为契机，重温了基础理论。选取了《人工智能：一种现代方法》一书作为参考，其因在视觉领域的深入讲解而给我留下深刻印象。人工智能的概念在于通过感知环境信息并执行相应行动的智能体（Agent）进行研究。

人工智能安全笔记(2)对抗样本攻击

1、黑盒攻击是当攻击者无法获取目标模型详细信息时使用的策略。一种方法是通过训练一个与目标模型功能相近的替代模型，然后利用白盒攻击进行攻击。另一种方法是尝试模拟模型梯度，以进行迭代攻击。最后，讨论如何增加对抗样本攻击的查询效率，以减少对目标模型的访问次数，从而降低成本和提高隐蔽性。

2、人工智能应用面临的安全威胁包括以下几种： 数据隐私问题：人工智能的应用需要许多敏感数据来生成预测、建立模型等。黑客可以利用漏洞获取这些数据，进而侵犯用户隐私。 对抗攻击：黑客可以通过注入噪音或欺骗性输入来干扰或欺骗机器学习算法，从而使其产生错误或误导性结果。

3、人工智能内生安全涉及的内容主要包括以下几个方面： 模型鲁棒性与安全性 对抗性攻击防御：针对人工智能模型易受到对抗性样本攻击的问题，研究如何提升模型对这类攻击的鲁棒性，确保模型在受到干扰时仍能准确工作。数据污染防御：在训练过程中，数据可能受到污染或篡改，导致模型学习到错误的知识。

4、在人工智能的璀璨星河中，谷歌大脑的一项新发现揭示了一个令人不安的事实：机器学习的分类器并非坚不可摧，它们其实易受巧妙的欺骗。这些强大的模型，如在语音与图像识别领域的广泛应用，正面临着对抗性攻击的挑战。

5、提示注入攻击：通过恶意指令使机器学习模型突破内容生产规则限制，触发不安全行为，如发布欺诈内容、制作非法邮件。逃逸攻击：攻击者构造“对抗样本”欺骗AI模型，从受限环境逃离，获取敏感信息或执行未授权操作，危害极大。

6、对抗样本攻击：通过生成对抗样本，攻击者可以欺骗人工智能系统，使其做出错误判断或决策。重点内容：虽然目前尚未有确凿证据表明星际黑客真实存在，但随着网络技术的不断发展，特别是未来星际网络成为现实后，星际黑客的可能性将逐渐增加。

人工智能安全笔记(8)人工智能可解释性

人工智能安全笔记：人工智能可解释性 可解释性的重要性：提升用户信任度：可解释性像透明的窗口，揭示了AI决策背后的逻辑，增强用户对AI系统的信任。避免误解：通过解释AI的决策过程，可以避免像Clever Hans那样的误解，即看似聪明的表现可能源于非真正理解的因素。

简单模型易于解释，但能力有限；复杂模型如神经网络虽然强大，但解释起来却显得捉摸不透。 面对人类认知局限、商业利益、数据异质性和算法复杂性，可解释性面临着严峻挑战。 解释性方法根据其实施时间（Ante-hoc vs POSt-hoc）和范围（Local、Semi-local、Global）被分类。

人工智能安全的可解释性在构建长期安全的AI系统中扮演着至关重要的角色。以下是关于人工智能安全的可解释性的几个关键点：确保系统安全行为的广泛适用性：可解释性能够帮助人们理解AI系统的决策过程和行为逻辑，从而确保这些行为在各种场景下都是安全且符合预期的。

人工智能（AI）在现代社会中的应用日益广泛，随之而来的安全性问题也愈发凸显。本文聚焦于AI系统的可解释性在构建长期安全系统中的关键作用，探讨如何通过可解释性确保AI行为的泛化、识别不安全行为的原因，以及在部署前发现潜在的安全问题。

在探索人工智能（AISafety）的诸多议题中，安全性与可解释性的重要性尤为突出。构建长期安全的AI系统，可解释性扮演着至关重要的角色，它不仅有助于确保系统的安全行为能够广泛适用，还能识别潜在风险并提前发现安全漏洞。

学习笔记:《人工智能:一种现代方法》

1、学习笔记：《人工智能：一种现代方法》人工智能的核心概念：人工智能研究的是通过感知环境信息并执行相应行动的智能体。智能体的核心功能是将感知序列转化为行动的映射函数，这是人工智能的基石。

2、近期，我重新聚焦于人何为人这一深刻问题，以此为契机，重温了基础理论。选取了《人工智能：一种现代方法》一书作为参考，其因在视觉领域的深入讲解而给我留下深刻印象。人工智能的概念在于通过感知环境信息并执行相应行动的智能体（Agent）进行研究。

3、Chapter3笔记：1 问题求解Agent：在求解问题前，需要对问题进行形式化定义，明确目标、行动集合和状态集合。目标是找到从初始状态到目标状态的最优行动序列，解的质量通过路径耗散函数来衡量。1 问题与解的定义：问题由初始状态、行动和转移模型组成，状态空间通常表现为有向网络。

4、通过搜索求解 搜索算法核心是构建状态空间树，寻找从初始状态到目标状态的路径。搜索策略决定了如何选择扩展节点，如宽度优先、深度优先、一致代价搜索等，每种策略都有其优缺点和适用场景。

5、智能体（Agent）是通过传感器感知环境并通过执行器操作的实体，感知（percept）是其获取的信息。感知序列是智能体所有感知历史。数学上，智能体行为由代理函数定义，将感知映射到行动。智能体程序是实际运行的实体，区别于抽象的代理函数。以吸尘器为例，它在两个方格世界中工作，感知灰尘状态。