McNelis选择在Matlab中工作,因为其编程设施,易用性和处理庞大数据集的能力。至于方法论,他认为他将通过结合线性模型和神经网络分析来实现更准确的结果。他解释说明,使用神经网络的优点是“估计不仅涉及数据的顺序处理,使用输入X预测输出y,而且同时并行处理,因为输入由隐藏的几个神经元处理层。”
他的分析核心是一种遗传算法,他与匹兹堡大学约翰·杜菲联合开发。在开发算法,McNelis和Duffy使用的统计和机器学习工具箱广泛。它们还使用MATLAB中的矢量化函数以更快地处理。“通过算法获得的系数”McNelis解释“,可以用作更常见的本地搜索方法的起始值。”对于他的搜索方法,他在优化工具箱中使用了非线性最小化函数。
在完成数据收集后,McNelis开始用传统的线性模型得出最好的结果。然后他使用这个模型的输入来建立神经网络。
在定义神经网络时,麦克尼利斯说他喜欢“从一个简单的网络开始,比如一个隐藏层中的三到四个神经元。”我用一种混合方法训练模型,首先使用遗传算法找到神经网络的一组系数,然后用这些系数转换为非线性梯度下降法。”
McNelis使用深度学习工具箱中的前馈体系结构来关联输入和输出。他解释说:“尽管我在各种经济应用中试验了不同的神经网络结构,但我发现最好的是带有一个隐藏层的前馈模型。”他用工具箱的对数s型激活函数对每一个神经元的隐藏层进行激活。输入被传输到隐层,并被对数s形函数压缩。最后,神经元以线性组合的形式传输到输出层。
在1997年11月和12月期间,他用一个时变的GARCH模型来代理印度尼西亚货币急剧下跌的汇率风险,从而进一步提高了神经网络的预测能力。
他使用电子表格链接来获取样本内和样本外的性能。通过电子表格链接,他可以将样本外的预测引入微软®Excel®并计算样本外预测的误差。然后很容易将结果从MATLAB转换为演示电子表格格式。