07｜Embedding进阶：如何利用图结构数据生成Graph Embedding？
互联网中有哪些图结构数据？
请订阅文章所属专栏，新⼈⾸单¥19.9
精选留言(6)
微波王老师，对于深度学习这块儿我是个新手，查找网上的东西真是太多了，好像说的都有道理，真是不知道该看些啥，能否推荐一些经典papers作为进一步学习的资料吗？十分感谢！作者回复: 推荐关注我的推荐系统paper list吧，经典的不能再经典了。https://github.com/wzhe06/Reco-papers
2020-10-16 4
雪焰🐻🥑对于文中的:"“预训练应用”指的是在我们预先训练好物品和用户的 Embedding 之后，不直接应用，而是把这些 Embedding 向量作为特征向量的一部分，跟其余的特征向量拼接起来"
请问老师，比如对文本的embedding x和图像的embedding y会是得到不同的维度，这种情况下怎么把x和y拼接起来输入DL 模型呢？直接concatenate么？不知道下节课会不会涉及到具体操作，谢谢老师!作者回复: 最直接的方式是直接concatenate 再交由后续多层神经网络处理。
为了实现一些重点embedding之间的交叉，也可以进行多embedding之间的element wise交叉，或者一些乘积操作后输入后续mlp。
基于emb的操作非常多，这里没有统一的答案，也是各种模型层出不穷的原因。2020-10-16 1
叫我小邬就好了王老师，请问有这些Embedding的代码实例吗，2020-10-18
张弛 ConorEmbedding预训练的优点：1.更快。因为对于End2End的方式，Embedding层的优化还受推荐算法的影响，这会增加计算量。2.难收敛。推荐算法是以Embedding为前提的，在端到端的方式中，在训练初期由于Embedding层的结果没有意义，所以推荐模块的优化也可能不太有意义，可能无法有效收敛。
Embedding端到端的优点：可能收敛到更好的结果。端到端因为将Embedding和推荐算法连接起来训练，那么Embedding层可以学习到最有利于推荐目标的Embedding结果。2020-10-17
远方蔚蓝老师后面会介绍一下GraphSAGE和GAT在推荐的应用与实践吗，业界现在用的挺多。作者回复: 会讲GraphSAGE的原理和细节。
2020-10-16- Geek_63ee39“首先，为了使 Graph Embedding 的结果能够表达网络的“结构性”，在随机游走的过程中，我们需要让游走的过程更倾向于 BFS（Breadth First Search，宽度优先搜索）”
这里应该是DFS吧？并且同质性是使用BFS作者回复: 这是非常常见的一个问题，也推荐其他有疑问的同学关注。
推荐参考原文中的解释。
We observe that BFS and DFS strategies play a key role in producing representations that reflect either of the above equivalences.
In particular, the neighborhoods sampled by BFS lead to embeddings that correspond closely to structural equivalence.
The opposite is true for DFS which can explore larger parts of the network as it can move further away from the source node u (with sample size k being fixed).
In DFS, the sampled nodes more accurately reflect a macro-view of the neighborhood which is essential in inferring communities based on homophily.
原文地址 https://github.com/wzhe06/Reco-papers/blob/master/Embedding/%5BNode2vec%5D%20Node2vec%20-%20Scalable%20Feature%20Learning%20for%20Networks%20%28Stanford%202016%29.pdf2020-10-16 1