本公开涉及人工智能领域，更具体地讲，涉及一种基于神经常微分方程的序列重复模式处理方法。
背景技术：
1、如今，推荐系统已成为在线服务平台不可或缺的一部分，尽管传统的推荐系统侧重于推荐用户尚未消费过的新颖商品，但重复消费已成为各个领域的普遍现象，用户的重复消费历史形成了序列中的重复模式。例如，我们经常会重复购买同一个物品，或是重复访问同一个网站，或是重复听同一首歌曲，因此研究序列中的重复模式具有较大的实际意义，在适当的时间提供消费品可以有效提高用户满意度和平台利润，例如一个在线购物网站在用户购买奶粉恰好消耗完之前给用户推荐此奶粉和刚好在用户想听某一首歌曲时推荐给用户。如果推荐算法能够显式考虑到这种重复消费序列行为，可以更精准的建模用户真正的兴趣和偏好，从而提升最终的推荐效果。因此对于推荐系统来说，建模序列重复模式至关重要。
2、序列重复模式建模的关键在于捕获用户消费相同商品之间的时间间隔模式，而现有的建模方法并不能很好的捕获到这种模式。一些方法直接将时间间隙与用户和物品嵌入连接起来作为输入特征。还有一些方法通常依赖于关于重复消费的时间间隔服从特定分布的假设，例如假设重复消费之间的时间间隔呈指数下降。为了明确捕捉重复消费的不同时间动态，还有方法进一步引入了混合分布方法，该方法使用指数分布对短期效应进行建模，并使用高斯分布对寿命效应进行建模。
3、尽管现有的序列重复模式建模方法已经取得了较为优异的表现，但仍然无法充分捕捉现实世界推荐场景中复杂多样的时间动态。虽然[5]提出了混合分布的解决办法，但是仍然假设时间动态符合指数分布和高斯分布，并不具有一般性，因此如何建模复杂多样的时间动态仍需要进一步研究。
4、本发明针对序列重复模式问题提出了一个基于神经常微分方程的模型无关算法：由用户静态偏好预测模块建模用户的历史消费模式，构建用户的长期静态偏好画像；同时由用户动态重复意图感知模块建模用户重复消费的意图，构建用户的短期动态偏好画像，最后将两个模块结合得到用户的偏好画像从而进行推荐。值得注意的是本发明可以与现有的各种推荐算法无缝集成，包括基于协同过滤的推荐模型和序列推荐模型，使其可以应用于不同的场景。
技术实现思路
1、本公开的实施例的目的在于提供一种基于神经常微分方程的序列重复模式处理方法。
2、在一个总的方面，提供一种基于神经常微分方程的模型无关的序列重复模式处理方法由静态推荐模块和动态重复感知模块组成，将用户和用户历史相关信息、候选物品信息输入所述静态推荐模块，所述静态推荐模块通过对用户历史进行分析构建用户静态偏好画像，预测用户的长期兴趣，并根据此用户建模计算用户对物品的偏好分数并通过拼接函数将中间变量传递至所述动态重复感知模块；所述动态重复感知模块建模用户重复消费的意图，构建用户的短期动态偏好画像，并计算用户对物品的重复消费分数最后将两个模块的分数相加得到用户对物品的最终分数并将分数最高的物品排序作为推荐的物品。
3、所述静态推荐模块的结构为：以ei作为向量化物品表示、eu作为用户表示，则eu＝fuser(u,su),其中su是用户的历史消费记录，fuser根据用户特征和用户的历史交互对用户表示进行建模；通过用户表示和物品表示获得用户对此物品的基本分数其中fpred为预测层。
4、所述动态重复感知模块的结构为：由三个部分组成：编码器，将静态用户和物品表示编码为神经常微分方程输入的初始潜在状态；神经常微分方程，用于在给定历史重复时间间隙和初始状态的情况下对动态重复感知表示进行建模；解码器，将重复感知表示作为输入并预测用户的重复意图。
5、所述编码器将静态推荐模块中的用户表示eu和物品表示ei转换为初始潜在表示：其中运算符”||”表示两个向量的拼接，使用两层全连接多层感知器来实现编码器；
6、所述神经常微分方程对历史重复时间间隔处的重复感知表示进行建模的方式为：
7、
8、其中fode被定义为另一个两层全连接多层感知器，用于对隐藏状态的动态进行建模；
9、在获得历史重复时间间隔处每个用户-物品对的重复感知表示后，通过解码器预测最终用户重复意图：
10、
11、其中decoder是一个两层全连接多层感知器。
12、方法的训练方法包括：获得最终的用户对物品预测分数后，利用成对排名损失来优化所有可训练参数θ：将每个正样本物品in与一个负样本物品配对，该负样本物品是从用户尚未消费的物品中随机采样的。
13、本发明的技术效果在于：提出了一种新颖的基于神经常微分方程的方法来对推荐用户行为序列中的重复模式(消费行为)进行建模。通过利用神经常微分方程，可以有效捕获重复时间间隙的动态模式，而无需做出任何分布假设。此外，该发明与模型无关，使其适用于各种基本模型，包括基于协调过滤的推荐模型和基于序列推荐的模型。
1.一种基于神经常微分方程的序列重复模式处理方法，其特征在于，由静态推荐模块和动态重复感知模块组成，将用户和用户历史相关信息、候选物品信息输入所述静态推荐模块，所述静态推荐模块通过对用户历史进行分析构建用户静态偏好画像，并根据此用户建模计算用户对物品的静态偏好分数并通过拼接函数将中间变量传递至所述动态重复感知模块；所述动态重复感知模块建模用户重复消费的意图，构建用户的短期动态偏好画像，并计算用户对物品的重复消费分数最后将两个模块的分数相加得到用户对物品的最终分数并将分数最高的物品排序作为推荐的物品。
2.如权利要求1所述的一种基于神经常微分方程的序列重复模式处理方法，其特征在于，所述静态推荐模块的结构为：以ei作为向量化物品表示、eu作为用户表示，则eu＝fuser(u,su),其中su是用户的历史消费记录，fuser根据用户特征和用户的历史交互对用户表示进行建模；通过用户表示和物品表示获得用户对此物品的基本分数其中fpred为预测层。
3.如权利要求1所述的一种基于神经常微分方程的序列重复模式处理方法，其特征在于，所述动态重复感知模块的结构为：由三个部分组成：编码器，将静态用户和物品表示编码为神经常微分方程输入的初始潜在状态；神经常微分方程，用于在给定历史重复时间间隙和初始状态的情况下对动态重复感知表示进行建模；解码器，将重复感知表示作为输入并预测用户的重复意图。
4.如权利要求3所述的一种基于神经常微分方程的序列重复模式处理方法，其特征在于，所述编码器将静态推荐模块中的用户表示eu和物品表示ei转换为初始潜在表示：其中运算符”||”表示两个向量的拼接，使用两层全连接多层感知器来实现编码器；
5.如权利要求1所述的一种基于神经常微分方程的序列重复模式处理方法，其特征在于，方法的训练方法包括：获得最终的用户对物品预测分数后，利用成对排名损失来优化所有可训练参数θ：将每个正样本物品in与一个负样本物品配对，该负样本物品是从用户尚未消费的物品中随机采样的。
