MobileSideBar

SEARCH

MENU

  • 打赏
  • 公式
  • 天象
  • 链接
  • 时光
  • 博览
  • 归档

CATEGORIES

  • 千奇百怪
  • 天文探索
  • 数学研究
  • 物理化学
  • 信息时代
  • 生物自然
  • 图片摄影
  • 问题百科
  • 生活/情感
  • 资源共享

NEWPOSTS

  • 万能的seq2seq:基于seq2...
  • 级联抑制:提升GAN表现的一种简单...
  • 6个派生优化器的简单介绍及其实现
  • n维空间下两个随机向量的夹角分布
  • JoSE:球面上的词向量和句向量
  • Keras:Tensorflow的...
  • 从去噪自编码器到生成模型
  • 什么时候多进程的加速比可以大于1?
  • 最小熵原理(五):“层层递进”之社...
  • BN究竟起了什么作用?一个闭门造车的分析

COMMENTS

  • Allen: 公式(2)第二个等式右边那个内积是怎么推导出来的,一直想不明白
  • 冬日: 苏老师,您好,有个问题想请教您,论文中解释position e...
  • 林小木: 谢谢!
  • zzy: 看过了一些vae的代码,有个疑问想请教一下,在生成部分$q(x...
  • cq: 作者,你好,请问你有复现Unsupervised Paraph...
  • 苏剑林: 想了下,没想出来~
  • 苏剑林: python 2.7 + tensorlfow 1.8 + k...
  • 苏剑林: 因为$\boldsymbol{x},\boldsymbol{y...
  • 苏剑林: $$\min(x,y,z,\dots)=-\max(-x,-y...
  • 苏剑林: 我认为文章已经说得清楚了。如果还不明白,建议思考下面两个问题:...

USERLOGIN

  • 登录
科学空间|Scientific Spaces
  • 登录
  • 打赏
  • 公式
  • 天象
  • 链接
  • 时光
  • 博览
  • 归档
渴望成为一个小飞侠

  • 欢迎订阅

  • 个性邮箱

  • 天象信息

  • 观测ISS

  • LaTeX

  • 关于博主

欢迎访问“科学空间”,这里将与您共同探讨自然科学,回味人生百态;也期待大家的分享~

  • 千奇百怪Everything
  • 天文探索Astronomy
  • 数学研究Mathematics
  • 物理化学Phy-chem
  • 信息时代Big-Data
  • 生物自然Biology
  • 图片摄影photograph
  • 问题百科Questions
  • 生活/情感Life-Feeling
  • 资源共享Resources
  • 千奇百怪
  • 天文探索
  • 数学研究
  • 物理化学
  • 信息时代
  • 生物自然
  • 图片摄影
  • 问题百科
  • 生活/情感
  • 资源共享

归档

2019年 (共12篇)

  • 11月25日: 6个派生优化器的简单介绍及其实现 (0)
  • 11月06日: Keras:Tensorflow的黄金标准 (10)
  • 09月29日: “让Keras更酷一些!”:层与模型的重用技巧 (10)
  • 08月27日: 自己实现了一个bert4keras (18)
  • 08月09日: seq2seq之双向解码 (6)
  • 07月30日: Keras实现两个优化器:Lookahead和LazyOptimizer (7)
  • 07月16日: “让Keras更酷一些!”:层中层与mask (36)
  • 07月08日: 用时间换取效果:Keras梯度累积优化器 (10)
  • 04月28日: “让Keras更酷一些!”:中间变量、权重滑动和安全生成器 (3)
  • 03月10日: “让Keras更酷一些!”:分层的学习率和自由的梯度 (7)
  • 02月22日: 巧断梯度:单个loss实现GAN模型 (4)
  • 01月27日: “让Keras更酷一些!”:随意的输出和灵活的归一化 (14)

2018年 (共4篇)

  • 09月08日: “让Keras更酷一些!”:小众的自定义优化器 (11)
  • 09月01日: 玩转Keras之seq2seq自动生成标题 (101)
  • 08月06日: “让Keras更酷一些!”:精巧的层与花式的回调 (35)
  • 05月18日: 简明条件随机场CRF介绍(附带纯Keras实现) (71)

2017年 (共2篇)

  • 08月06日: 【不可思议的Word2Vec】6. Keras版的Word2Vec (19)
  • 07月22日: Keras中自定义复杂的loss函数 (105)

科学空间

微信打赏

科学空间

支付宝打赏

因为网站后台对打赏并无记录,因此欢迎在打赏时候备注留言。
你还可以点击这里或在下方评论区留言来告知你的建议或需求。

你也许还对下面的内容感兴趣

  • 10月国际空间站过境时间
  • 预报日食——当一回天文学家
  • 已知中心五边形,作五边形
  • HSIC简介:一个有意思的判断相关性的思路
  • 最小熵原理(三):“飞象过河”之句模版和语言结构
  • 七夕情缘|寻找牛郎织女
  • 《方程与宇宙》:抛物线与双曲线轨道(三)
  • R136a1,300倍太阳质量的怪兽星
  • I care ! 我在乎,我行动!| 绿色和平
  • 从动力学角度看优化算法(四):GAN的第三个阶段
8695416

October 13th, 2018

写一篇BERT的?应该很多人都想弄明白…

回复评论
苏剑林 发表于 October 13th, 2018

BERT是什么?

回复评论
丁鹏 发表于 October 13th, 2018

BERT是谷歌最新发表的论文,横扫11项NLP任务记录,苏神赶紧解读一下。论文地址:https://arxiv.org/pdf/1810.04805.pdf

回复评论
苏剑林 发表于 October 13th, 2018

刚看到新闻,没觉得有什么好写的。就是原来是attention模型,层数加深,预训练做得更充分了...

就好比前几天的BigGAN,效果也很火爆,也没有什么好说的,基本是硬件堆起来的。

回复评论
取消回复

1. 可以在评论中使用LaTeX代码,点击“预览效果”可即时查看效果,点击这里可以查看更多内容;
2. 可以通过点击评论楼层编号来引用该楼层。

关于站长

科学空间logo
苏剑林|BoJone,科学空间博主,数学、天文、理论物理、写作、阅读、计算机、中国象棋、厨房爱好者......目前26岁,还在单调递增。中山大学研究生,致力于分享科学之美~
你也许会关心:
  • 科学空间|Scientific Spaces 介绍
  • 科学空间QQ交流群:67729435
  • 科学空间微信交流群:spaces_ac_cn
  • 常见问题集:《科学空间FAQ》
  • 智能搜索

    支持整句搜索!网站自动使用结巴分词进行分词,并结合ngrams排序算法给出合理的搜索结果。

    热门标签

      网站 转载 天象 模型 积分 python 力学 深度学习 概率 节日 几何 生成模型 数论 微分方程 方程 生活 费曼 情感 复数 矩阵 竞赛 翻译 引力 级数 素数

    随机文章

    • 轻便的深度学习分词系统:NNCWS v0.1
    • 【不可思议的Word2Vec】 3.提取关键词
    • 海伦公式的一个别致的物理推导
    • 精确自由落体运动定律的讨论(二)
    • 宇宙驿站十岁啦
    • 11月03日美国“发现号”航天飞机“绝唱”
    • 一道级数求和证明题(非数学归纳法)
    • 2010年4月全球天文月(One People,One Sky)
    • 七夕-雨
    • 【中文分词系列】 4. 基于双向LSTM的seq2seq字标注

    最近评论

    • Allen: 公式(2)第二个等式右边那个内积是怎么推导出来的,一直想不明白
    • 冬日: 苏老师,您好,有个问题想请教您,论文中解释position embedding计算方式选择选择...
    • 林小木: 谢谢!
    • zzy: 看过了一些vae的代码,有个疑问想请教一下,在生成部分$q(x|z)$不应该是用decoder...
    • cq: 作者,你好,请问你有复现Unsupervised Paraphrasing without T...
    • 苏剑林: 想了下,没想出来~
    • 苏剑林: python 2.7 + tensorlfow 1.8 + keras 2.2.4
    • 苏剑林: 因为$\boldsymbol{x},\boldsymbol{y}$的夹角就是$\varphi_...
    • 苏剑林: $$\min(x,y,z,\dots)=-\max(-x,-y,-z,\dots)=-\lim...
    • 苏剑林: 我认为文章已经说得清楚了。如果还不明白,建议思考下面两个问题: 1、单输入、单输出的beam ...

    友情链接

    • 宇宙驿站
    • 科学松鼠会
    • 数学研发
    • 空间天文网
    • Seatop
    • Xiaoxia
    • 积分表-网络版
    • matrix67
    • 丝路博傲
    • 宇宙的心弦
    • 卢昌海主页
    • TAHOROOM
    • ph4ntasy 饭特稀
    • 数学之家
    • 有趣天文奇观
    • 天文地理知识
    • 创造狮创意导航
    • bsky
    • TwistedW
    • godweiyang
    • AI柠檬
    • DrivingC
    • 聚星科技论坛
    • 王登科-DK博客
    • 贾维斯的小屋
    • 瓦特兰蒂斯
    • 申请链接

    署名-非商业用途-保持一致 本站采用创作共用版权协议,要求署名、非商业用途和保持一致。转载本站内容必须也遵循“署名-非商业用途-保持一致”的创作共用协议。
    © 2009-2019 Scientific Spaces. All rights reserved. Theme by laogui. Powered by Typecho. 备案号: 粤ICP备09093259号。