This generative text model was trained using Andrej Karpathy's code on the texts of the Chinese participants of the Biennale of Poets in Moscow in 2017.
Model was trained with size 512 and 3 layers, dropout 0.5.
Usage
The procedure for installing the required software is described by Karpathy, torch is required, the code is written in lua. Be careful, versions of libraries written many years ago are used!
th sample.lua lm_lstm_epoch41.20_1.6773.t7 -temperature 0.2 -primetext '你见过' -length 300
Train data
Train data is non free due to copyright restrictions. Texts for training are provided by the authors.
What for?
In an era of winning Transformers, ancient RNN models seem archaic. But I see that they still work better than modern architectures with such important categories from the humanities point of view as individual style.
Public demonstration
The work of the model was publicly demonstrated to the participants of the Biennale of Poets in Moscow on December 1, 2017 at the Margarita Rudomino All-Russia State Library for Foreign Literatureм.
Samles
Text generated on December 1, 2017
你见过大地
我的心在天空下，在天空下
我们在大雪中发生的天空
在大地地图的天空
在我的天空下
我们又是一种大地的天空
我们的天空又变成了天空
我们在南京的天空下
我们在天空下
我们在大雨中我的天空
我们是一个地方
在天空
-temperature 0.2 -primetext '旷野'
旷野的古怪
在我的天空下，我们在我的天空下
天空发生的时间
我们在我的心中
在我的天空下
我们在我的天空中
我的天空下
在我的眼睛上
我的大地只是一片空白
我们是一种大地
在冬天的天空下
我们在天空下
一只手在大地上
-temperature 0.4 -primetext '旷野'
旷野的句子
太多的天空只是变化的时候
大地又心热的大地
在水泥望发天发泉
在天空后一只转身
天气的天空和天空
那只手在地平线上
在大地上的夜色
在天空发出大雪
我只有一只眼睛
那么多年过的火焰
在电话中的故事
在我的天空
-temperature 0.6 -primetext '旷野'
旷野的另一个陌生人
我不是我们的生活：只是为了持到了他的视死
一天到底是我的地方，是一种神秘主义的成都人？
在北方，我已经再发明，我写诗在另一个人。
宋朝如王，天气停面向天空，声音家
游泳不会有一个夏天的人在
-temperature 0.8 -primetext '旷野'
旷野的另一个陌生人。
2015-10-15
政治多么名
除了一勒世界的春天在河南
那天下的星与女等呢
有个生命反好人们羊宗明
月亮，吹过四声地潃口
想象它听我惑得多的走向吗
将在有叇进那枝本心地江山苏美
风一带风不过我们的欢
-temperature 1.0 -primetext '旷野'
旷野的原始呢？
初因草凪墙酒写诗，桥杨叫合叼标的南京
要读向无数家，在回忆污油呀
他转眼在教授中锇之内，顿他们
世界杯抓弓起免后的，杀息者。
认识不同已经是什么？大洞倾露去啊，雨树蜜蜂
19路，乃左贝上，惊产的歌
BibTeX entry and citation info
For other insights see:
@article{orekhov2020neural,
title={Neural reading: Insights from the analysis of poetry generated by artificial neural networks},
author={Orekhov, Boris and Fischer, Frank},
journal={Orbis Litterarum},
volume={75},
number={5},
pages={230--246},
year={2020},
publisher={Wiley Online Library}
}