Advertisement

WMT16 en-de test records (version 2)

阅读量:

1:数据预处理

复制代码
 TEXT=wmt16_en_de_bpe32k

    
  
    
  
    
 fairseq-preprocess --source-lang en --target-lang de \
    
 --trainpref $TEXT/train.tok.clean.bpe.32000 \
    
 --validpref $TEXT/newstest2013.tok.bpe.32000 \
    
 --testpref $TEXT/newstest2014.tok.bpe.32000 \
    
 --destdir data-bin/wmt16_en_de_bpe32k \
    
 --nwordssrc 32768 --nwordstgt 32768 \
    
 --joined-dictionary \
    
 --srcdict /wmt16.en-de.joined-dict.transformer/dict.en.txt
    
    
    
    

2:exam bleu

复制代码
 CUDA_VISIBLE_DEVICES=0,1,2,3 fairseq-generate \

    
 data-bin/wmt16_en_de_bpe32k/ --path ./model/mo

全部评论 (0)

还没有任何评论哟~