针对不同轨道角动量(OAM)叠加的涡旋光束探测问题,提出了基于机器学习的模式识别技术,为OAM叠加光束的检测提供了一个新思路.基于修正的von Karman功率谱模型,利用功率谱反演法生成随机相位屏,应用多步衍射法数值模拟拉盖尔高斯叠加光束在大气湍流信道的传输.研究了不同波长、传输距离和大气湍流信道条件下训练的卷积神经网络(CNN)分别对各种湍流强度测试集的识别正确率.结果表明:对于较弱的湍流、波长较长的OAM光束和较短的传输距离条件,基于CNN的OAM模式识别正确率较高;对于各种湍流条件的测试数据,使用强湍流训练集训练得到的模型与使用弱湍流训练集训练得到的模型相比识别正确率更高;利用混合训练集进行训练有利于提高识别正确率.这些结果对OAM光束解复用系统的实现具有一定的参考价值.