text stringlengths 14 639k |
|---|
<s> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <NAME> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <KEYWORD> <NAME> <NAME> <NAME> <NAME> <EOL> <KEYWORD> <NAME> <KEYWORD> <NAME> <NAME> <NAME> <NAME> <EOL> <KEYWORD> <NAME> <KEYWORD> <STAR> <EOL> <NAME> <EQUAL> <LSQB> <LPAR> <EOL> <STRING> <STRING> <STRING> <STRING> <COMMA> <E... |
<s> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <DOT> <NAME> <EOL> <KEYWORD> <NAME> <DOT> <NAME> <EOL> <KEYWORD> <NAME> <DOT> <NAME> <EOL> <KEYWORD> <NAME> <DOT> <NAME> <EOL> <KEYWORD> <NAME> <DOT> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <KEYWORD> <NAME> <EOL> <KEYWORD> <DO... |
<s> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <EQEQUAL> <STRING> <STRING> <STRING> <COLON> <EOL> <INDENT> <NAME> <DOT> <NAME> <DOT> <NAME> <LPAR> <STRING> <STRING> <STRING> <COMMA> <STRING> <STRING> <STRING> <RPAR> <EOL> <KEYWORD> <NAME> <DOT> <NAME> <... |
<s> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <NAME> <EOL> <NAME> <EQUAL> <NAME> <DOT> <NAME> <DOT> <NAME> <LPAR> <NAME> <NAME> <NAME> <RPAR> <EOL> <NAME> <NAME> <NAME> <EQUAL> <NAME> <LPAR> <NAME> <DOT> <NAME> <DOT> <NAME> <LPAR> <NAME> <COMMA> <STRING> <STRING> <STRING> <COMMA> <STRING> <STRING> <STRING> <RPAR> <COM... |
<s> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <EQEQUAL> <STRING> <STRING> <STRING> <COLON> <EOL> <INDENT> <NAME> <DOT> <NAME> <DOT> <NAME> <LPAR> <STRING> <STRING> <STRING> <COMMA> <STRING> <STRING> <STRING> <RPAR> <EOL> <KEYWORD> <NAME> <DOT> <NAME> <DOT> <NAME> <KEYWORD> <NAME> <NAM... |
<s> <KEYWORD> <NAME> <NAME> <NAME> <KEYWORD> <NAME> <NAME> <NAME> <EOL> <KEYWORD> <NAME> <DOT> <NAME> <KEYWORD> <NAME> <COMMA> <NAME> <EOL> <KEYWORD> <NAME> <LPAR> <NAME> <DOT> <NAME> <RPAR> <COLON> <EOL> <INDENT> <NAME> <EQUAL> <LSQB> <EOL> <RSQB> <EOL> <NAME> <EQUAL> <LSQB> <EOL> <NAME> <DOT> <NAME> <NAME> <LPAR> <EO... |
<s> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <DOT> <NAME> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <DOT> <NAME> <DOT> <NAME> <DOT> <NAME> <KEYWORD> <NAME> <NAME> <NAME> <NAME> <NAME> <EOL> <KEYWORD> <NAME> <DOT> <NAME> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <DOT> <NAME> <KEYWORD> <NAME> <COMMA> <NAME> <EOL> <KEYWORD> <N... |
<s> <STRING> <STRING> <STRING> <EOL> <NAME> <NAME> <NAME> <EQUAL> <LPAR> <STRING> <STRING> <STRING> <COMMA> <STRING> <STRING> <STRING> <RPAR> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <LPAR> <NAME> <RPAR> <COLON> <EOL> <INDENT> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <EOL> <DEDENT> <KEYWORD> <NAME> <NAME> <LPAR> <NAME> <... |
<s> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <DOT> <NAME> <NAME> <DOT> <NAME> <EOL> <KEYWORD> <NAME> <DOT> <NAME> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <NAME> <EQUAL> <NAME> <DOT> <NAME> <LPAR> <NAME> <NAME> <NAME> <RPAR> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <NAME> <NAME> <NAME> <LPAR> <RPAR> <COLON> <EOL> <INDE... |
<s> <KEYWORD> <NAME> <DOT> <NAME> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <DOT> <NAME> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <LPAR> <NAME> <DOT> <NAME> <RPAR> <COLON> <EOL> <INDENT> <NAME> <EQUAL> <NAME> <DOT> <NAME> <NAME> <LPAR> <NAME> <NAME> <NAME> <EQUAL> <NUMBER> <RPAR> <EOL> <NAME> <EQUAL... |
<s> <KEYWORD> <NAME> <NAME> <NAME> <KEYWORD> <NAME> <NAME> <NAME> <EOL> <KEYWORD> <NAME> <DOT> <NAME> <KEYWORD> <NAME> <COMMA> <NAME> <EOL> <KEYWORD> <NAME> <LPAR> <NAME> <DOT> <NAME> <RPAR> <COLON> <EOL> <INDENT> <NAME> <EQUAL> <LSQB> <EOL> <LPAR> <STRING> <STRING> <STRING> <COMMA> <STRING> <STRING> <STRING> <RPAR> <C... |
<s> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <KEYWORD> <NAME> <EOL> <NAME> <DOT> <NAME> <NAME> <NAME> <LPAR> <RPAR> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <NAME> <NAME> <NAME> <EQUAL> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <NAME> <LPAR> <NAME> <RPAR> <COLON> <EOL> <INDENT> <KEYWORD> <NAME> <LPAR> <NAME>... |
<s> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <DOT> <NAME> <NAME> <NAME> <LESS> <LPAR> <NUMBER> <COMMA> <RPAR> <COLON> <EOL> <INDENT> <KEYWORD> <NAME> <LPAR> <NAME> <RPAR> <COLON> <EOL> <INDENT> <KEYWORD> <NAME> <EOL> <DEDENT> <KEYWORD> <NAME> <LPAR> <NAME> <RPAR> <COLON> <EOL> <INDENT> <KEYWORD> <... |
<s> <KEYWORD> <NAME> <NAME> <NAME> <NAME> <KEYWORD> <NAME> <COMMA> <NAME> <NAME> <NAME> <EOL> <KEYWORD> <NAME> <KEYWORD> <NAME> <COMMA> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <KEYWORD> <NAME> <COMMA> <NAME> <COMMA> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <AT> <NAME> <DOT> <NAME> <NAME> <NAME> <EOL> <KEYWORD> ... |
<s> <KEYWORD> <DOT> <NAME> <NAME> <NAME> <KEYWORD> <NAME> <NAME> <NAME> <EOL> </s> |
<s> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <DOT> <NAME> <KEYWORD> <STAR> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <NAME> <DOT> <NAME> <LSQB> <STRING> <STRING> <STRING> <RSQB> <EQUAL> ... |
<s> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <LPAR> <NAME> <RPAR> <COLON> <EOL> <INDENT> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <LPAR> <NAME> <RPAR> <COLON> <EOL> <INDENT> <KEYWORD> <STRING> <STRING> <STRING> <EOL> <DEDENT> <DEDENT> <KEYWORD> <NAME>... |
<s> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <DOT> <NAME> <NAME> <NAME> <DOT> <NAME> <NAME> <KEYWORD> <NAME> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <DOT> <NAME> <NAME> <NAME> <DOT> <NAME> <NAME> <NAME> <NAME> <KEYWORD> <NAME> <NAME> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <DOT> <NAME> <N... |
<s> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <LPAR> <RPAR> <COLON> <EOL> <INDENT> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <LPAR> <NAME> <COMMA> <NAME> <RPAR> <COLON> <EOL> <INDENT> <NAME> <DOT> <NAME> <EQUAL> <STRING> <STRING> <STRING> <EOL> <NAME> <DOT> <NAME> <E... |
<s> <KEYWORD> <NAME> <NAME> <NAME> <KEYWORD> <NAME> <NAME> <NAME> <EOL> <KEYWORD> <NAME> <DOT> <NAME> <KEYWORD> <NAME> <COMMA> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <DOT> <NAME> <NAME> <NAME> <NAME> <DOT> <NAME> <EOL> <KEYWORD> <NAME> <LPAR> <NAME> <DOT> <NAME> <RPAR> <COLON> <EOL> <INDENT> <NAME> <EQUAL> <LSQB> ... |
<s> <STRING> <STRING> <STRING> <EOL> <NAME> <LPAR> <NAME> <NAME> <NAME> <RPAR> <EOL> <KEYWORD> <NAME> <DOT> <NAME> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <EOL> <NAME> <NAME> <NAME> <NAME> <NAME> <NAME> <NAME> <EQUAL> <STRING> <STRING> <STRING> <EOL> <NAME> <NAME> <NAME> <NAME> <NAME> <NAME> <NAME> <EQUAL> <STRI... |
<s> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <DOT> <DOT> <NAME> <DOT> <NAME> <NAME> <NAME> <KEYWORD> <NAME> <NAME> <NAME> <NAME> <NAME> <EOL> <KEYWORD> <DOT> <DOT> <NAME> <DOT> <NAME> <KEYWORD> <NAME> <NAME> <NAME> <NAME> <EOL> <KEYWORD> <NAME> <NAM... |
<s> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <LPAR> <NAME> <RPAR> <COLON> <EOL> <INDENT> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <EOL> <DEDENT> <KEYWORD> <NAME> <NAME> <LPAR> <NAME> <RPAR> <COLON> <EOL> <INDENT> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <EOL> <DEDENT> <... |
<s> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <KEYWORD> <NAME> <EOL> <KEYWORD> <DOT> <DOT> <NAME> <KEYWORD> <NAME> <NAME> <COMMA> <NAME> <NAME> <NAME> <EOL> <KEYWORD> <DOT> <DOT> <NAME> <DOT> <NAME> <NAME> <KEYWORD> <NAME> <NAME> <EOL> <KEYWORD> <DOT> <NAME> <KEYWORD> <NAME> <NAME> <NAME>... |
<s> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <KEYWORD> <NAME> <NAME> <NAME> <EOL> <KEYWORD> <DOT> <DOT> <NAME> <KEYWORD> <NAME> <NAME> <COMMA> <NAME> <NAME> <NAME> <EOL> <KEYWORD> <DOT> <DOT> <NAME> <DOT> <NAME> <NAME> <KEYWORD> <NAME> <NAME... |
<s> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <NAME> <NAME> <EOL> <NAME> <NAME> <EQUAL> <NAME> <NAME> <DOT> <NAME> <DOT> <NAME> <NAME> <NAME> <NAME> <LPAR> <STRING> <STRING> <STRING> <RPAR> <EOL> <NAME> <NAME> <NAME> <EQUAL> <NAME> <LPAR> <KEYWORD> <COMMA> <NUMBER> <COMMA> <NUMBER> <RPAR> <EOL> <NAME> <NAME> <NAME> <E... |
<s> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <KEYWORD> <NAME> <NAME> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <KEYWORD> <NAME> <NAME> <NAME> <COMMA> <NAME> <NAME> <NAME> <EOL> <KEYWORD> <DOT> <KEYWORD> <NAME> <NAME> <NAME> <EOL> <KEYWORD>... |
<s> <STRING> <STRING> <STRING> <EOL> <NAME> <NAME> <NAME> <EQUAL> <STRING> <STRING> <STRING> <EOL> <NAME> <NAME> <NAME> <EQUAL> <STRING> <STRING> <STRING> <EOL> <NAME> <NAME> <NAME> <NAME> <NAME> <EQUAL> <LSQB> <STRING> <STRING> <STRING> <COMMA> <STRING> <STRING> <STRING> <RSQB> <EOL> <NAME> <NAME> <NAME> <EQUAL> <NUMB... |
<s> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <KEYWORD> <NAME> <NAME> <COMMA> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <DOT> <NAME> <DOT> <NAME> <NAME> <DOT> <NAME> <KEYWORD> <NAME> <NAME> <NAME> <NAME> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <DOT> <NAME> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <NAME... |
<s> <STRING> <STRING> <STRING> <EOL> <NAME> <EQUAL> <STRING> <STRING> <STRING> <EOL> <NAME> <EQUAL> <STRING> <STRING> <STRING> <EOL> <NAME> <EQUAL> <STRING> <STRING> <STRING> <EOL> </s> |
<s> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <KEYWORD> <NAME> <COMMA> <NAME> <EOL> <KEYWORD> <NAME> <KEYWORD> <NAME> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <KEYWORD> <NAME> <NAME> <COMMA> <NAME> <COMMA> <NAME> <EOL> <KEYWORD> <NAME> <NAME> ... |
<s> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <NAME> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <NAME> <EQUAL> <NAME> <DOT> <NAME> <LPAR> <STRING> <STRING> <STRING> <RPAR> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <LPAR> <NAME> <RPAR> <COLON> <EOL> <INDENT> <KEY... |
<s> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <KEYWORD> <NAME> <COMMA> <NAME> <NAME> <COMMA> <NAME> <COMMA> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <DOT> <NAME> <KEYWORD> <NAME> <COMMA> <NAME> <NAME> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <DOT> <NAME> <DOT> <NAME> <KEYWORD> <... |
<s> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <KEYWORD> <NAME> <NAME> <COMMA> <NAME> <COMMA> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <DOT> <NAME> <DOT> <NAME> <KEYWORD> <NAME> <NAME> <NAME> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <DOT> <... |
<s> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <NAME> <LPAR> <NAME> <RPAR> <COLON> <EOL> <INDENT> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <LPAR> <NAME> <COMMA> <NAME> <NAME> <NAME> <COMMA> <NAME> <RPAR> <COLON> <... |
<s> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <NAME> <NAME> <KEYWORD> <NAME> <NAME> <NAME> <NAME> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <NAME> <NAME> <KEYWORD> <NAME> <NAME> <NAME> <NAME> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <NAME> <NAME> <KEYWORD> <NAME> <NAME>... |
<s> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <LPAR> <RPAR> <COLON> <EOL> <INDENT> <NAME> <NAME> <NAME> <EQUAL> <NAME> <DOT> <NAME> <LPAR> <EOL> <NAME> <EQUAL> <STRING> <STRING> <STRING> <RPAR> <EOL> <NAME> ... |
<s> <KEYWORD> <NAME> <EOL> <NAME> <EQUAL> <NAME> <LPAR> <NAME> <DOT> <NAME> <LSQB> <NUMBER> <RSQB> <COMMA> <STRING> <STRING> <STRING> <RPAR> <EOL> <NAME> <EQUAL> <NAME> <LPAR> <NAME> <DOT> <NAME> <LSQB> <NUMBER> <RSQB> <COMMA> <STRING> <STRING> <STRING> <RPAR> <EOL> <KEYWORD> <NAME> <KEYWORD> <NAME> <COLON> <EOL> <INDE... |
<s> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <DOT> <NAME> <NAME> <KEYWORD> <NAME> <NAME> <COMMA> <NAME> <NAME> <COMMA> <NAME> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <DOT> <NAME> <DOT> <NAME> <NAME> <NAME> <KEYWORD> <NAME> <... |
PyCoder
This repository contains the dataset for the paper Syntax-Aware On-the-Fly Code Completion
The sample code to run the model can be found in directory: "assets/notebooks/inference.ipynb" in our GitHub: https://github.com/awsm-research/pycoder.
PyCoder is an auto code completion model which leverages a Multi-Task Training technique (MTT) to cooperatively learn the code prediction task and the type prediction task. For the type prediction task, we propose to leverage the standard Python token type information (e.g., String, Number, Name, Keyword), which is readily available and lightweight, instead of using the AST information which requires source code to be parsable for an extraction, limiting its ability to perform on-the-fly code completion (see Section 2.3 in our paper).
More information can be found in our paper.
If you use our code or PyCoder, please cite our paper.
@article{takerngsaksiri2022syntax,
title={Syntax-Aware On-the-Fly Code Completion},
author={Takerngsaksiri, Wannita and Tantithamthavorn, Chakkrit and Li, Yuan-Fang},
journal={arXiv preprint arXiv:2211.04673},
year={2022}
}- Downloads last month
- 149