- 博客(434)
- 资源 (3)
- 收藏
- 关注
原创 遗传算法与深度学习实战(32)——生成对抗网络详解与实现
生成对抗网络是一种强大的深度学习模型,由生成器网络和判别器网络组成,通过彼此之间的竞争来提高性能,已经在图像生成、图像修复、图像转换和自然语言处理等领域取得了巨大的成功。其核心思想是通过生成器和判别器之间的博弈过程来实现真实样本的生成。生成器负责生成逼真的样本,而判别器则负责判断样本是真实还是伪造。通过不断的训练和迭代,生成器和判别器会相互竞争并逐渐提高性能。
2025-01-27 11:05:08 1236 3
原创 【技术总结】一文读懂Transformer
Transformer 的不仅推动了 NLP 的快速发展,也成为了许多先进模型的基础。以GPT、BERT、T5 等为代表的大语言模型,均基于 Transformer 架构。此外,Transformer 还被成功应用于计算机视觉领域、推荐系统等领域,为深度学习带来了前所未有的效率与表现。随着研究的深入,Transformer 架构正在不断优化和拓展,不仅提升了模型的性能,也让人工智能技术更贴近实际应用。
2025-01-23 14:53:57 1427 52
原创 TensorFlow深度学习实战——情感分析模型
情感分析 (Sentiment Analysis) 是一种自然语言处理 (Natural Language Processing, NLP) 技术,旨在分析和识别文本中的情感倾向,情感分析模型能够根据情感倾向对文本进行分类。在本节中,我们将实现基于全连接神经网络的情感分析模型,以进一步熟悉神经网络构建流程。
2025-01-20 08:44:46 1419 20
原创 TensorFlow深度学习实战(5)——神经网络性能优化技术详解
在本节中,我们首先回顾使用 TensorFlow 构建 MNIST 手写数字识别神经网络,然后详细介绍神经网络中各种超参数的作用,通过使用不同的超参数优化神经网络性能。
2025-01-16 08:56:24 1441 21
原创 遗传算法与深度学习实战(31)——变分自编码器详解与实现
变分自编码器是一种结合了自编码器和概率建模的生成模型,通过编码器将输入数据映射到潜在空间中的概率分布,并通过解码器将从潜在空间采样得到的潜在变量映射回原始数据空间,实现了数据的生成和特征学习。
2025-01-14 15:13:58 706 13
原创 图神经网络实战(23)——使用异构图神经网络执行异常检测
在本节中,我们探讨了如何使用图神经网络 (Graph Neural Networks, GNN) 检测 CIDDS-001 数据集中的异常流量。首先,对数据集进行预处理,并将其转换为图表示法,从而捕捉到网络不同组成部分之间的复杂关系。然后,利用 GraphSAGE 运算符实现异构 GNN。捕捉图的异构性,使我们能够将流量分为良性和恶意两种。GNN 在网络安全中已经得到了广泛应用,并为研究开辟了新的途径。随着技术的不断进步和网络数据量的增加,GNN 将成为检测和预防安全漏洞的重要工具。
2025-01-13 09:25:27 931 14
原创 遗传算法与深度学习实战(30)——使用遗传算法优化自编码器模型
进化自编码器 (EvoAE) 是一种结合了进化算法和自编码器的模型。在本节中,我们通过构建自定义的突变和交叉操作符来处理构建进化自编码器 (AutoEncoder, AE) 所需的自定义遗传算子,并基于构建的自定义遗传算子使用遗传算法优化自编码器模型,即进化自编码器。
2025-01-09 11:22:04 1292 30
原创 TensorFlow深度学习实战(4)——正则化技术详解
正则化是防止过拟合的有效手段,它通过对模型的复杂度进行约束来提高模型的泛化能力。选择合适的正则化方法可以帮助模型在面对未见过的数据时有更好的表现,而不只是仅仅记住训练数据的细节。
2025-01-06 08:23:17 1718 39
原创 TensorFlow深度学习实战(3)——深度学习中常用激活函数详解
激活函数是神经网络中至关重要的一部分,它决定了神经元的输出以及神经网络模型的非线性特性。没有激活函数,神经网络就会变成一个简单的线性模型,无法处理复杂的任务。因此,激活函数的选择直接影响神经网络的表达能力和学习效果。
2025-01-02 08:21:52 4486 36
原创 遗传算法与深度学习实战(29)——编码卷积自编码器架构
使用卷积层的复杂自编码器可能较难构建,可以使用神经进化构建定义编码器和解码器部分的分层架构。在编码器和解码器中使用卷积层需要额外的上采样层和匹配的层配置,这些配置可以编码成自定义的遗传序列。
2024-12-30 08:14:47 1559 46
原创 TensorFlow深度学习实战(2)——使用TensorFlow构建神经网络
在本文中,我们使用 TensorFLow 库构建了简单的神经网络模型以了解 TensorFLow 库的基本用法,然后进一步构建了原始神经网络用于识别 MNIST 手写数字数据集,对于模型训练的流程和其中的关键步骤进行了详细的总结和介绍。
2024-12-25 08:24:45 5436 61
原创 遗传算法与深度学习实战(28)——卷积自编码器详解与实现
卷积自编码器是一种基于卷积神经网络结构的自编码器,适用于处理图像数据。卷积自编码器在图像处理领域有广泛的应用,包括图像去噪、图像压缩、图像生成等任务。通过训练卷积自编码器,可以提取出输入图像的关键特征,并实现对图像数据的降维和压缩,同时保留重要的空间信息。在本节中,我们介绍了卷积自编码器的模型架构,使用 Keras 从零开始实现在 Fashion-MNIST 数据集上训练了一个简单的卷积自编码器。
2024-12-24 08:55:55 1185 18
原创 图神经网络实战(22)——基于Captum解释图神经网络
可解释性是许多深度学习领域的关键要素,可以帮助我们建立更好的模型,在本节中,我们介绍了积分梯度(基于梯度的方法)技术。使用 PyTorch Geometric 和 Captum 在 Twitch 数据集上实现了此方法,以获得节点分类的解释,最后对结果进行了可视化和讨论。
2024-12-23 08:46:35 1183 22
原创 探索AI安全治理,打造大模型时代的可信AI
随着 AI 技术的快速发展,AI 造假问题也越来越严重,为经济、社会发展带来了诸多挑战,也威胁着的个人的隐私安全和社会的秩序,AI 安全的治理目前是学术界和产业界非常关注的课题。为了应对这一挑战,本文回顾了在《CCF-CV 企业交流会—走进合合信息》活动中,与会专家从监管、前沿研究、技术实践等多个维度分享的 AI 安全领域的最新研究成果以及实践经验,以推动 AI 在保障安全和公平的基础上健康发展。
2024-12-18 08:01:18 10313 153
原创 遗传算法与深度学习实战(27)——进化卷积神经网络
卷积神经网络 (Convolutional Neural Network, CNN) 的设置和定义对于各种图像识别任务来说较为复杂的,通常得到最佳 CNN 超参数需要花费大量时间分析和调整。使用遗传算法进化一组个体,能够优化特定数据集上的 CNN 模型体系结构。本节中,介绍了自定义交叉和突变算子的构建方式,并使用自定义遗传算子实现进化卷积神经网络 (Evolutionary Convolutional Neural Network, EvoCNN)。
2024-12-12 09:34:54 1886 58
原创 TensorFlow深度学习实战(1)——神经网络与模型训练过程详解
在本文中, 我们了解了神经网络的相关基础知识,同时看到了神经网络常见的模型架构与其在实际中的广泛应用,同时利用 Python 从零开始实现了神经网络的训练过程——前向传播和反向传播,了解了神经网络的通用训练流程。
2024-12-09 08:31:15 5834 60
原创 遗传算法与深度学习实战(26)——编码卷积神经网络架构
进化卷积神经网络 (Evolutionary Convolutional Neural Network, EvoCNN) 通过结合进化算法的优势,提供了一种自动化设计和优化深度学习模型的方法。在本节中,我们介绍了如何将卷积神经网络架构编码为基因序列,为构建进化卷积神经网络奠定基础。
2024-12-04 08:35:10 7106 56
原创 图神经网络实战(21)——图神经网络的可解释性
在本节中,我们探讨了应用于图神经网络 (Graph Neural Networks, GNN) 的可解释性人工智能 (Explainable Artificial Intelligence, XAI) 技术。可解释性是许多领域的关键要素,可以帮助我们建立更好的模型。我们介绍了不同的局部解释技术,并重点讨论了 GNNExplainer (基于扰动的方法),在图分类任务中应用 GNNExplainer。
2024-12-02 08:33:24 1444 40
原创 遗传算法与深度学习实战——进化优化的局限性
深度学习 (Deep learning, DL) 模型的规模不断扩大,从早期只有数百个参数的模型到最新的拥有数十亿个参数的 transformer 模型。优化或训练这些网络需要大量的计算资源,为了更好的进行评估,我们从简单数据集转向更实际的进化优化应用。
2024-11-28 08:44:36 1193 48
原创 遗传算法与深度学习实战(25)——使用Keras构建卷积神经网络
卷积神经网络 (Convolutional Neural Network, CNN) 的提出是为了解决传统神经网络的缺陷。即使对象位于图片中的不同位置或其在图像中具有不同占比,CNN 依旧能够正确的处理这些图像,因此在对象分类/检测任务中更加有效。在本节中,我们将使用 Keras 构建卷积神经网络模型进行图像分类,介绍 CNN 的基础知识,并构建 CNN 模型。
2024-11-25 09:15:20 1970 50
原创 遗传算法与深度学习实战(24)——在Keras中应用神经进化优化
Keras 是一个高级神经网络 API,现在已经成为 TensorFlow 的一部分,成为其默认的高级 API。Keras 的设计理念是简单易用、模块化和可扩展,能够快速实现神经网络的原型。在本节中,使用 Keras 构建了一个简单的多层感知机网络,并使用遗传算法优化该网络模型。
2024-11-20 10:14:02 2632 52
原创 图神经网络实战——基于时空图神经网络预测流行病
在本节中,我们将探讨如何处理动态图,介绍一种为动态图设计的时空图神经网络架构 MPNN-LSTM,并将其应用于流行病预测,以预测英格兰不同地区 COVID-19 病例的数量。
2024-11-18 09:25:10 1445 45
原创 遗传算法与深度学习实战——利用进化计算优化深度学习模型
我们已经学习了使用进化策略 (Evolutionary Strategies, ES) 和差分进化 (Differential Evolution, DE) 调整超参数,并取得了不错的结果。在本节中,我们将应用 ES 和 DE 作为神经进化优化器,并且继续使用圆圈或月亮数据集。
2024-11-14 11:34:54 4565 36
原创 遗传算法与深度学习实战(23)——利用遗传算法优化深度学习模型
神经进化用来定义应用于深度学习的特定优化模式。在本节中,我们通过遗传算法优化简单深度学习网络的权重/参数,替换在误差反向传播训练过程中的所用优化器。
2024-11-13 10:59:59 1249 26
原创 图神经网络实战(20)——时空图神经网络
本节介绍了具有时空信息的图数据。这种时空成分在许多应用中都很有帮助,主要与时间序列预测有关。我们介绍了两种符合这种定义的图:静态图(特征随时间变化)和动态图(特征和拓扑结构会发生变化)。PyTorch Geometric Temporal 是 PyTorch Geometric 的扩展,专门用于处理时空图神经网络。此外,我们实现了 EvolveGCN 架构,该架构使用 GRU 或 LSTM 网络更新 GCN 参数。应用此架构执行 Web 流量预测,并且在有限的数据集上取得了出色的结果。
2024-11-11 09:54:37 1916 31
原创 遗传算法与深度学习实战(22)——使用Numpy构建神经网络
在本文中, 我们了解了神经网络的相关基础知识,同时利用 Numpy 从零开始实现了神经网络的训练过程——前向传播和反向传播,了解了神经网络的通用训练流程。
2024-11-06 08:23:59 1784 54
原创 遗传算法与深度学习实战(21)——使用差分搜索自动超参数优化
差分进化能够更加系统和高效地搜索超参数,并避免局部最小值/最大值集群。本节中,通过将差分进化 (Differential Evolution, DE) 与深度学习 (Deep learning, DL) 集成应用于超参数优化 (Hyperparameter Optimization, HPO) 。通过本节学习,可以看到 DE 方法能够用于有效改进 DL。
2024-11-04 08:17:31 1041 52
原创 AIGC实战——生成式人工智能总结与展望
近年来,生成模型取得了突破性进展,生成式人工智能拥有了无限可能性和潜在影响,有着无限的实际应用潜力,我们期待着生成式人工智能够产生更广泛的影响。生成模型领域不仅仅是关于创建图像、文本或音乐的应用,而且生成式深度学习隐藏着人工智能的本质。在本节中,将概述生成式人工智能的发展历史,然后探讨生成式人工智能面临的机遇和挑战,介绍可能的发展方向,以及它对社会的潜在影响,并解决主要的伦理和实践问题。
2024-10-31 08:44:16 10503 66
原创 遗传算法与深度学习实战(20)——使用进化策略自动超参数优化
本节中,介绍了如何使用进化策略自动化超参数优化 (Hyperparameter Optimization, HPO),主成分分析 (Principal Component Analysis, PCA) 是一种适用于 HPO 可视化的降维技术,对于复杂的多维超参数优化,可以使用降维技术生成 2D 图形来可视化不同搜索算法之间的差异。
2024-10-28 10:36:57 1155 69
原创 内容安全与系统构建加速,助力解决生成式AI时代的双重挑战
在生成式 AI 时代,模型具备快速响应用户需求的能力,能够实现即时生成与交互。但不准确数据会影响模型的表现,导致生成内容不可靠,同时随着伴随内容生成的便利,也出现了虚假信息、版权问题等安全挑战。本文通过回顾郭博士在郭丰俊博士在第七届中国模式识别与计算机视觉大会中的报告,介绍了合合信息关于文档和证件等数据的伪造检测技术,以及能够用于加速大模型系统的构建和训练过程的文档处理服务平台。
2024-10-25 09:50:50 26689 162
原创 AIGC实战——世界模型(World Model)
在本节中,学习了生成模型变分自编码器 (variational autoencoder, VAE) 如何应用于强化学习环境中,使智能体能够摆脱真实环境的束缚,通过在自己生成的环境中测试策略来学习有效的策略。训练 VAE 学习环境的潜表示,然后将其用作输入传递到循环神经网络中,在潜空间内预测未来轨迹。智能体可以使用这个生成模型生成环境,通过进化方法反复测试策略,以便得到能够很好的推广到真实环境中的策略。
2024-10-21 08:17:18 8106 72
原创 遗传算法与深度学习实战(19)——使用粒子群优化自动超参数优化
在本节中,我们将进化计算应用于深度学习模型的超参数优化,能够显著提高超参数优化的速度和准确性,通过实现粒子群优化自动超参数优化,了解到使用粒子群优化自动超参数搜索通常比网格搜索和随机搜索更有效。
2024-10-17 11:01:02 1235 60
原创 遗传算法与深度学习实战(18)——使用网格搜索自动超参数优化
网格搜索的优势在于其能够完全覆盖预定义的参数空间,确保找到最优解,然而随着参数空间的增大,网格搜索的计算成本会显著增加,因为它需要评估每个可能的参数组合。在本节中,我们介绍了网格搜索的基本原理,并学习了如何通过网格搜索自动超参数优化。
2024-10-14 10:51:55 1470 58
原创 遗传算法与深度学习实战(17)——使用随机搜索自动超参数优化
神经网络超参数优化的随机搜索是一种用于优化神经网络超参数的方法,适用于参数空间较大或者优化目标函数表现不规则的情况。在本节中,我们学习了随机搜索的基本原理,并利用随机搜索执行神经网络自动超参数优化。
2024-10-11 09:22:39 1270 35
原创 遗传算法与深度学习实战(16)——神经网络超参数优化
超参数优化的目标是通过调整模型的超参数,如学习率、正则化系数、网络架构、批大小等,来最大化模型的性能和泛化能力。选择合适的方法取决于问题的特性、计算资源和优化目标的复杂性。本节中,我们介绍了一些常见模型选项和调整DL模型超参数的技巧和策略。
2024-10-08 07:55:26 2633 50
原创 遗传算法与深度学习实战(15)——差分进化详解与实现
差分进化 (Differential Evolution, DE) 是一种专注于连续和不连续解的函数逼近方法,但该方法并不是基于微积分,而是依赖于减少优化解的差异。在本节中,我们将使用 DE 来逼近已知的连续多项式解,以及不连续和复杂函数。当我们需要将深度学习 (Deep learning, DL) 与进化计算 (Evolutionary Computation, EC) 结合解决问题时,DE 是一个行之有效的方法。
2024-10-02 10:27:03 1689 28
原创 遗传算法与深度学习实战——使用进化策略实现EvoLisa
我们已经学习了进化策略 (Evolutionary Strategies, ES) 的基本原理,并且尝试使用 ES 解决了函数逼近问题。函数逼近是一个很好的基准问题,但为了充分展示 ES 的作用,本节中,我们将重新思考 EvoLisa 问题,采用 ES 作为解决策略,以将 ES 和常规遗传算法进行对比。
2024-09-29 11:34:58 687 29
原创 图神经网络实战——分层自注意力网络
在本节中,我们将学习一种专门用于处理异构图的图神经网络架构,分层自注意力网络 (hierarchical self-attention network, HAN)。我们将介绍其工作原理,以便更好地理解该架构与经典图注意力网络之间的区别。最后,使用 PyTorch Geometric 实现此架构,并将结果与其它 GNN 模型进行比较。
2024-09-25 08:59:08 1858 41
原创 遗传算法与深度学习实战(14)——进化策略详解与实现
进化策略与遗传算法的主要区别在于其专注于实值优化问题和策略参数的自适应性,适用于复杂的目标函数和高维空间中的优化问题。在工程设计、机器人、经济学等领域,进化策略已被广泛应用,为在复杂环境中搜索最优解决方案提供了有效的工具。在本节中,我们使用 DEAP 实现了进化策略探索函数逼近问题。
2024-09-23 08:05:13 1290 39
原创 遗传算法与深度学习实战(13)——协同进化详解与实现
协同进化是指确定两个或多个个体种群来解决特定问题的独特任务的算法,协同进化可以通过最小化和缩放推导方程中的特征来找到复杂的解决方案。在本节中,我们使用了协同进化(结合遗传编程和遗传算法)在波士顿房地产数据集上解决回归问题。
2024-09-19 10:44:22 1680 34
用于目标检测的 YOLO V3 模型架构及权重文件(含 OpenCV 使用示例)
2021-09-30
用于目标检测的 MobileNet-SSD 模型架构及权重文件(使用 Caffe 框架进行预训练)
2021-09-30
用于图像分类的 ResNet-50 模型架构及权重文件(使用 Caffe 框架进行预训练)
2021-09-30
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人