资本市场何种技术是最管用的？亏损累累的投资者说无一管用。近10多年来几万元一套或年使用费几万元一套的软件有点价值的技术就是主动买卖盘技术（这些昂贵的软件也就这点货），这项技术在传播面不广时用处还很大，当很多人都熟悉该项技术后发现也不太管用了，为何？了解原理后就发现制造主动买卖盘其实不难，对敲几笔单子即可做假，那还有什么技术是相对可靠的呢？本人探索了近20年。
"用同花顺BBD指标 轻松判断出大盘走势",这是同花顺商品化软件广告，大盘走势真的用这个指标就实现轻松判断吗？用过的人心中有数，真管用大家不用再看我的微博了，这个指标真能看出整个市场资金进出？整个市场资金流进就一定涨，整个市场资金流出就一定跌吗？我告诉大家，这个指标无一点使用价值！
很早以前技术分析人士就说过，价格会骗人，成交量不会骗人，但在一些时候成交量照样会骗人！我说会变换的化，价格其实不会骗人！价格反映的是形态，双底、多底、双头、多头等等，这些仍然会骗人，要想价格不骗人，还是需要变换！
市场交易中我们能得到的只有量及价的数据，市场中几乎一切的技术指标都是从量及价中设计而来的！大家所用的技术分析软件（含商品化软件）中那些技术及指标在关键变盘时候有用的几乎寥寥。量及价都会骗人，只要机构有做盘需要。那市场中什么不会骗人呢？答：时间！你的技术指标应用时间为数据的，则机构或市场主力无法骗人，妖魔鬼怪、人、神、仙及佛都无法影响时间！很多人说他们也知道这点。

股票投资交易前，投资者需要从各方面来分析该股票，了解该股票是否适合投资，什么时候买入更合适等等，而分析股票最重要的就是通过股票各个指标来看，股票各项指标对于投资者来说都非常重要。

整篇文章就是围绕这张图来进行解释的，由于篇幅所限，我们聚焦在一条主线上：1.文章想解决主要问题是什么 2.如何解决的 3.从文章提出的解决方案作为一个案例来引发整体思考，因此我们将内容简化，主要关注核心部分。

之前自然语言处理主要的算法叫RNN（循环神经网络），它主要的实现逻辑是每个“字”计算之后将结果继承给第二个字。算法的弊病是需要大量的串行计算，效率低。而且当遇到比较长的句子时，前面信息很有可能会被稀释掉，造成模型不准确，也就是对于长句子效果会衰减。这是这篇文章致力于要解决的问题，也就是说这篇文章有训练处更好的f()的方法。联想一下ChatGPT可以做论文，感受一下。

好，理解了向量的重要性，我们看回transformer的三步走，这三步走分别是：1.编码（Embedding）2. 定位 （Positional encoding）3. 自注意力机制（Self-Attention）。

首先，要对句子每个词进行向量化。

我们先看“John”这个词，需要先把“John”这个字母排列的表达转换成一个512维度的向量John，这样计算机可以开始认识它。说明John是在这个512维空间的一个点，这是第一步：编码（Embedding）。

再次，第二步： 定位（Positional encoding），利用以下公式（这是这篇论文的创新）

我们不用太担心这个公式，它核心意义是：1.在这个新的向量里面每一位由原来的0和1表示，分别取代成由sin和cos表示，这个目的是可以通过sin和cos的定律，让这个新向量不仅表示John这个单词的意义，还可以表示John在Smart John is singing这个句子的位置信息。如果不理解，可以直接忽略，只要记住第二步是用来在“表达John这个词的向量”中，加入了John在句子中的位置信息。John已经不是一个孤立的词，而是一个具体句子中的一个词，虽然还不知道句子中其他词是什么含义。

如果第一步计算机理解了什么是John，第二步计算机理解了“* John**”。

最后，第三步：自注意力机制（Self-Attention），通过一个Attention（Q，K，V）算法，再次把John放到一个新的空间信息里，我们设为

然后，计算每个单词的attention数值，比如“我”字的attention值就是用“我”字的Q我分别乘以句子中其他单词的K值，两个矩阵相乘的数学含义就是衡量两个矩阵的相似度。然后通过一个SoftMax转换（大家不用担心如何计算），计算出它跟每个单词的权重，这个权重比例所有加在一起要等于1。再用每个权重乘以相对应的V值。所有乘积相加得到这个Attention值。

这里有必要再介绍一下机器学习的基础知识：Transformer算法本质上是一个前馈神经网络模型，它的计算基础逻辑，不去管复杂的隐藏层，就是假设Y=f(x)=wx，（目标还是要算出一个f()）然后随机设置一个w0，开始计算这个y=w0x的成本函数，然后再把w0变成w1，计算y=w1x的成本函数，以此类推计算出无数w（不是无数，也会收敛），然后比较哪个w的成本函数最小，就是我们训练出来的f()。那么在transformer里，这三个初始矩阵就是那个w0。

一、Transformer打破了时序计算的逻辑，开始快速出圈，多个AI原本比较独立的领域开始在技术上融合。再往里看，Transformer能打破时序很重要一点是并行计算的算力模式给更复杂的计算带来了性价比上的可能性。算力的进一步提高，必将在AI各细分领域带来融合，更基础设施级别的模型，算法仍将不断推出。AI领域在图像，NLP；感知认知领域的专业分工也会慢慢变模糊。

二、AI科研确实具有一些实验性质。除了核心思想，确实还有很多技术点的解决方向已经明确，但还有很大的提升空间，可以预见围绕transformer周边的微创新会持续加速繁荣。

三、《Attention is all your need》在业内大名鼎鼎，但你要是细看，会发现很多内容也是拿来主义，比如最重要的Attention（Q，K，V）中Query，Key，Value是互联网推荐系统的标配方法论；整个Transformer算法也是一个大的神经网络，算法是在前人基础上一步一步迭代发展，只是这个迭代速度明显在加快。

四、AI算法科研领域正经历算法、开源代码、工程、算力的增长飞轮。

五、ChatGPT的成功同大量的数据训练功不可没，但除了简单对话互动或者翻译，大篇幅回答甚至论文级别的答案还是极其缺乏样本数据（算法训练需要的样本数据需要清晰度X和Y）。而且Transformer的算法相比其他算法需要更大的数据量，原因在于它需要起始阶段随机产生三个矩阵，一步一步进行优化。除了Transformer以外，另一个技术Bert也是技术发展非常重要的现象级算法。其核心是一个简化的Transformer，Bert不去做从A翻译到B，它随机遮住X里面的一些单词或句子让算法优化对遮住部分的预测。这种思路使得Bert成为了Transformer预训练最好的搭档。

六、由于transformer是更高级的神经网络深度学习算法，对数据量有很高要求，这也催生了从小数据如何快速产生大数据的算法，比如GAN对抗网络等。这是AIGC领域的核心技术。解决数据量不足问题，除了更高效率抽象小数据的信息，也多了把小数据补足成大数据的方法，而且这些方法在快速成熟。

七、我们发现在机器学习算法中有大量的超级参数，比如在transformer里多头机制需要几头N，文字变成向量是512还是更多，学习速率等都需要在训练之前提前设置。由于训练时间长，参数复杂，要想遍历更优秀的计算效果需要非常长的摸索时间。这就催生出AutoML，拿Transformer举例，就要很多个路线进行自动化机器学习；比如贝叶斯计算（找到更优参数配置概率）；强化学习思路（贪婪算法在环境不明朗情况下迅速逼近最优）；另外还有寻求全新训练网络的方法（transformer，RNN，MLP等联合使用排列组合）等。

科研发展强调参数化，工业发展强调自动化，这两者看似统一，但在现实实操过程中往往是相当痛苦矛盾的。这也是开篇说的产品化和科研流动性相平衡的一个重要领域。

上一篇：美股经济危机(美股休市2023时间表)

下一篇：股票300016(股票300102)