深度学习入门（一）感知机.docx

感知机是具有输入和输出的算法。给定一个输入后，将输出一个既 定的值。 • 感知机将权重和偏置设定为参数。 • 使用感知机可以表示与门和或门等逻辑电路。 • 异或门无法通过单层感知机来表示。 • 使用2层感知机可以表示异或门。 • 单层感知机只能表示线性空间，而多层感知机可以表示非线性空间。 • 多层感知机（在理论上）可以表示计算机。 【深度学习入门（一）感知机】 感知机是深度学习领域的基础模型，它是一种简单的线性分类器，具有输入和输出。在这个模型中，输入通过加权和的方式与一个偏置值结合，根据结果是否超过预设的阈值来决定输出是1（表示“流”）还是0（表示“不流”）。感知机可以用来表示基本的逻辑电路，例如与门、或门等，但不能直接表示异或门。要解决这个问题，可以使用多层感知机，其中两层感知机即可表示异或门。值得注意的是，单层感知机只能处理线性可分的问题，而多层感知机则有能力解决非线性问题，理论上能模拟任何计算机的功能。 1.1 感知机的运行原理 感知机的核心是神经元，它接收多个输入信号，并根据权重和阈值（θ）产生一个二进制输出。每个输入信号x1, x2等与对应的权重w1, w2相乘，然后将所有乘积相加。如果总和超过阈值，神经元被“激活”，输出1；否则，输出0。权重决定了输入信号的重要性，而阈值决定了激活的条件。 1.2 逻辑电路与感知机 1.2.1 与门：与门要求所有输入均为1时输出1。设置参数(w1, w2, θ) = (0.6, 0.6, 1)，当x1和x2都为1时，总和超过阈值，输出1。 1.2.2 与非门：与非门是与门的反向操作。参数(w1, w2, θ) = (-0.6, -0.6, -1)，当x1和x2都为1时，总和低于阈值，输出0。 1.2.3 或门：或门只要至少一个输入为1，则输出1。参数(w1, w2, θ) = (0.7, 0.8, 0.5)，只要有1个输入为1，总和就能超过阈值，输出1。 1.3 权重、偏置与实现 1.3.1 在Python中，可以通过设定权重和阈值来实现这些逻辑运算。例如，与门的实现可以用Numpy库，通过改变参数w1, w2和b（阈值的负值）来实现其他逻辑运算。 1.3.2 偏置（b）是调整神经元激活难易程度的参数，使得即使没有输入信号，神经元也有可能被激活。权重w1和w2控制输入信号的影响程度，它们共同决定了输入信号通过感知机后的转换。 总结来说，感知机作为深度学习的基础模型，展示了如何通过简单的数学结构来模拟复杂逻辑功能。通过调整权重和偏置，我们可以构建出不同类型的逻辑门。随着网络层数的增加，多层感知机能够处理更复杂的非线性关系，这是现代深度学习模型能够解决各种实际问题的关键所在。对于初学者来说，理解和掌握感知机的工作原理是进一步探索深度学习的坚实基础。