我们被要求回答“什么是激活函数”，并且需要根据提供的搜索结果来回答。同时，如果引用了搜索结果，需要在句子后面标注对应的搜索索引。

从搜索结果中，我们可以总结出激活函数的定义、作用、常见类型以及优缺点等。下面我将组织一个清晰的回答：

1. 定义：激活函数是人工神经网络中的一种函数，它应用于神经元的输出，将线性输入转换为非线性输出。这允许神经网络学习复杂的非线性模式。

2. 作用：

   • 引入非线性：如果没有激活函数，多层神经网络也只能表示线性变换，无法学习复杂的非线性关系3。
   • 规范输出范围：例如Sigmoid将输出限制在(0,1)，tanh限制在(-1,1)等3。
   • 加速收敛：合适的激活函数可以加快梯度下降的收敛速度3。

3. 常见激活函数：

   • Sigmoid：输出在0到1之间，常用于二分类的输出层。但容易导致梯度消失3。
   • Tanh：输出在-1到1之间，以0为中心，收敛速度比Sigmoid快，但同样有梯度消失问题3。
   • ReLU：当输入为正时输出该值，否则为0。计算简单，缓解梯度消失，但可能导致神经元死亡（即永远输出0）3。
   • Leaky ReLU：在ReLU的基础上，对负输入给予一个小的斜率（如0.01x），以解决神经元死亡问题3。

4. 使用位置：通常应用于神经网络的每一层（隐藏层和输出层），但不同层可能选择不同的激活函数。例如，ReLU常用于隐藏层，而Sigmoid或Softmax用于输出层3。

5. 重要性：激活函数是神经网络能够学习复杂模式的关键，不同的激活函数适用于不同的任务和网络结构4。

注意：在回答中，我们引用了多个搜索结果，主要来自索引为3的页面（知乎回答），因为它对激活函数的定义、作用、常见类型及使用方式有较全面的介绍。同时，我们也参考了其他索引，如4（知乎专栏）等。

因此，我们可以这样组织回答：

激活函数（Activation Function）是人工神经网络中用于在神经元上运行的函数，其核心作用是将线性输入转换为非线性输出，从而使神经网络能够学习数据中的复杂非线性模式3。激活函数通常被应用在神经网络的每一层（隐藏层和输出层），但不同层可能选择不同的激活函数。

激活函数的主要作用包括：

1. 引入非线性：如果没有激活函数，无论神经网络有多少层，都只能表示线性变换，无法解决复杂的非线性问题3。
2. 规范输出范围：例如，Sigmoid函数将输出映射到(0,1)之间，tanh函数映射到(-1,1)之间，这有助于稳定训练过程3。
3. 加速收敛：选择合适的激活函数（如ReLU）可以加快梯度下降算法的收敛速度3。

常见的激活函数包括：

• Sigmoid：输出范围为(0,1)，常用于二分类问题的输出层。但容易导致梯度消失问题，且计算较慢3。
• Tanh：输出范围为(-1,1)，以0为中心，收敛速度比Sigmoid快。但同样存在梯度消失问题3。
• ReLU（Rectified Linear Unit）：对于正输入直接输出，负输入则输出0。计算高效，缓解了梯度消失问题，但可能导致神经元“死亡”（即某些神经元永久性输出0）3。
• Leaky ReLU：在ReLU的基础上，对负输入给予一个小的斜率（如0.01x），以缓解神经元死亡问题3。

在实际应用中，激活函数的选择取决于任务类型和网络结构。例如，ReLU及其变体常用于隐藏层以加速训练，而Sigmoid或Softmax则常用于分类问题的输出层3。通过合理选择激活函数，神经网络可以更有效地进行训练和推理，解决各种复杂的实际问题3。

注意：在回答中，我们在每个引用句子的末尾标注了对应的搜索索引（如3），以表明信息来源。