• 请不要在回答技术问题时复制粘贴 AI 生成的内容
kuokyong
V2EX  ›  程序员

为做个程序员英语字典,我处理了 StackOverflow 和 HackerNews10 年 5 千万条数据

  •  
  •   kuokyong ·
    kkyon · Dec 10, 2019 · 6835 views
    This topic created in 2519 days ago, the information mentioned may be changed or developed.

    有点标题党,不过都说都真实的。英语技能对开发员人员至关重要。所有人都不喜欢背单词,但更惨的是背住的单词发现没怎么用,又慢慢地忘记了。本来计划给自己做个开发人员常用单词表,感觉可能对其它人也有用,所以就发布开源出来。单词解释部分还没完成,后面会逐渐添加。

    单词列表托管在 Github 上,一共将近 3000 个。

    https://github.com/kkyon/Simple-IT-English

    单词主要来自:StackOverflow 和 HackerNews.

    Source|Newest Post|Oldest Post|Row Count|Size --------|--------------|---------------|------------|---- HackerNews comments|2015-10-13 08:44:02 UTC|2006-10-09 19:51:01 UTC|8399417|3.41 GB HackerNews stories|2015-10-13 08:44:34 UTC|2006-10-09 18:21:51 UTC|1959809|402.71 MB StackOverflow answers|2019-09-01 05:22:21.463 UTC|2008-08-01 13:16:49.127 UTC|27665009|22.27 GB StackOverflow questions|2019-09-01 05:23:41.743 UTC|2008-08-03 21:38:52.623 UTC|18154493|28.13 GB

    29 replies  •  2019-12-13 13:53:52 +08:00
    exhades
    exhades
    Dec 10, 2019 via Android
    1
    感谢分享
    resist
    resist
    Dec 10, 2019
    2
    感谢,太懒了我,有注释就更好了,手动狗头
    kuokyong
    kuokyong
    OP
    Dec 10, 2019
    3
    @resist 后面会添加解释和例子
    secondwtq
    secondwtq
    Dec 10, 2019
    4
    @kuokyong 嗯,能把单词出现的句子加上会更好
    不过这个总觉得很难做 … 一是数据量很大,二是社区不比媒体,很多句子都是网络语言,其实不适合作为例句
    kuokyong
    kuokyong
    OP
    Dec 10, 2019
    5
    @secondwtq 是有点难度,SO 数据量有点大,还有筛选出来句子,需要找个算法排优先级。后面会找时间尝试一下。
    SquirrelMAN
    SquirrelMAN
    Dec 10, 2019
    6
    很有价值!
    jdhao
    jdhao
    Dec 10, 2019 via Android
    7
    赞
    f1ren2es
    f1ren2es
    Dec 10, 2019
    8
    支持~
    ddzzhen
    ddzzhen
    Dec 10, 2019 via Android
    9
    赞,英语四级卡线路过
    dr1q65MfKFKHnJr6
    dr1q65MfKFKHnJr6
    Dec 10, 2019
    10
    赞👍
    NoFoodNoLife
    NoFoodNoLife
    Dec 10, 2019❤️3
    11
    太好了,第一个单词不是 Abandon。
    zhoudaiyu
    zhoudaiyu
    Dec 10, 2019
    12
    第一个 aaron 就不认识 doge
    ClericPy
    ClericPy
    Dec 11, 2019
    13
    不错, 以前想过这些语料可以做什么, 你开了个好头, 也给国外这些主动开源自家数据的站点点赞, 比自己抓省太多时间了, 也避免服务器压力太大

    除了列表... 能有其他功能不

    1. 词典功能
    2. 按热度排序
    3. 按逆文本频率+热度排序
    4. 常错词
    5. 词向量找近义词
    6. 生僻词
    7. 自造词
    8. 共现词
    9. 长尾关键词
    10. 热点趋势图? 关键词热度变化曲线
    11. 词云?
    12. 我好无聊
    secondwtq
    secondwtq
    Dec 11, 2019
    14
    @zhoudaiyu aaron 是人名吧 ... 知名人物如 Aaron Swartz
    嘛这也是 ... xref 都出来了,还有 Adobe 公司应该是得名于一条叫 Adobe 的河,我查了下 adobe 本身好像也是单词但是估计这个语料里的 adobe 指的是 adobe 公司 ... 还有 jekyll 啥的
    不过这种词总体不多,估计楼主要把频率更少的词也放进去就不好处理了
    xiangjian
    xiangjian
    Dec 11, 2019
    15
    赞
    0726
    0726
    Dec 11, 2019 via iPhone
    16
    牛皮哈
    KentY
    KentY
    Dec 11, 2019❤️1
    17
    readme 里的英语问题挺多的.
    如果得空了改进一下.
    wwb721
    wwb721
    Dec 11, 2019
    18
    太棒了,之前做过把 typescript lib 下的 zh-cn 的 diagnostic messages 中的单词切割出来去重,也能学到好多东西。
    whisperer
    whisperer
    Dec 11, 2019
    19
    如果能跟 @lijy91 的「一路背单词」合作一下就好了,/t/608958
    做成一个单词本方便学习
    kuokyong
    kuokyong
    OP
    Dec 11, 2019
    20
    @whisperer 太棒了。 我试一下联系 @lijy91
    bofei
    bofei
    Dec 11, 2019
    21
    怎么没有中文啊
    cloudopt
    cloudopt
    Dec 11, 2019
    22
    欢迎直接引用 Cloudopt 词典。如 https://s.cloudopt.net/search?q=aggregate&time_range=&language=zh-CN&category=dict
    ,方便大家点击查找。词典功能是没有任何广告的,我们也不靠这个功能盈利。
    kuokyong
    kuokyong
    OP
    Dec 11, 2019
    23
    @bofei 还在补充。
    vjnjc
    vjnjc
    Dec 11, 2019
    24
    哈哈哈这个思路不错,喜欢
    vjnjc
    vjnjc
    Dec 11, 2019
    25
    要是能按照频次从高到低降序排就更好了,我只背前 500 个~
    RSDTE
    RSDTE
    Dec 11, 2019
    26
    我只背前 500 个 +1
    lijy91
    lijy91
    Dec 11, 2019
    27
    @kuokyong
    @whisperer
    我来了
    la2la
    la2la
    Dec 11, 2019
    28
    收藏了 不看系列
    kuokyong
    kuokyong
    OP
    Dec 13, 2019
    29
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   5045 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 81ms · UTC 06:53 · PVG 14:53 · LAX 22:53 · JFK 01:53
    ♥ Do have faith in what you're doing.