pdf: pix2code: Generating Code from a Graphical User Interface Screenshot
github: tonybeltramelli/pix2code
介绍了当前的几种生成代码的模型原理。
复现pix2code论文代码,发现损失在0.38左右就下不去了,然后生成的代码也有问题,不管给什么图片生成的代码都一样。因为显卡不足,把batchsize从默认的64改为了2。这里有个人也遇到了同样的问题。
这几篇博客大体上介绍了一下pix2code代码的实践。
这是用双向lstm代替了论文里的单向lstm,待看。
- 搞定复杂 GUI!西安交大提出前端设计图自动转代码新方法
- paper: Automatic Graphics Program Generation using Attention-Based Hierarchical Decoder
这是西交大发的一篇论文,用了attention注意力机制的,但没给代码和数据集,说是和企业合作的,不便给。
该代码使用了transformer技术。基本原理大概看了下,就是encoder使用vggnet,decoder使用transformer,感觉思路比较清晰。值得研究一下。
这是阿里的从设计稿一键生成代码的网站。
Sketch2Code是一种基于Web的解决方案,它使用AI将手绘用户界面的图片转换为可用的HTML代码。这个还没看,感觉比较复杂,是个大项目,集成了很多东西。