近年来,深度学习在许多领域取得了巨大的成功,其中,激活函数是深度学习取得巨大成功的关键因素之一。根据生物神经元特性,针对ReLU右侧响应无界问题,提出了单峰梯形线性单元(Single-Peaked Trapezoid Linear Unit,SPTLU)。SPTLU更加符...近年来,深度学习在许多领域取得了巨大的成功,其中,激活函数是深度学习取得巨大成功的关键因素之一。根据生物神经元特性,针对ReLU右侧响应无界问题,提出了单峰梯形线性单元(Single-Peaked Trapezoid Linear Unit,SPTLU)。SPTLU更加符合生物神经元特性,且取得了等同和超越ReLU的优异性能,实验表明在不同数据集上都取得了很好的效果,例如,数据集MNIST,Fashion-MNIST,SVHN,CALTECH101和CIFAR10。展开更多
Paul Erdös和Noga Alon等人给出了一般意义的Ramsey数理论,本文通过概率方法给出了高维情况下的Ramsey数理论及其推广的一般形式。给出了等概率2-着色情况:当k=l时Rd(k,k)的下界结果;当k与l有区分时Rd(l,k)的下界结果。给出了...Paul Erdös和Noga Alon等人给出了一般意义的Ramsey数理论,本文通过概率方法给出了高维情况下的Ramsey数理论及其推广的一般形式。给出了等概率2-着色情况:当k=l时Rd(k,k)的下界结果;当k与l有区分时Rd(l,k)的下界结果。给出了等概率3-着色情况:当k=l=m时Rd(k,k,k)的下界结果;当k,l,m有区分时Rd(l,k,m)的下界结果。给出了r-着色情况下:当k1=k2=...=kr时Rd(k,k,...k)的下界结果;当k1,k2,...,kr有区分时Rd(k1,k2,...,kr)的下界结果。最后又给出了不等概率时上述各种情况下的相应结果。展开更多
文摘近年来,深度学习在许多领域取得了巨大的成功,其中,激活函数是深度学习取得巨大成功的关键因素之一。根据生物神经元特性,针对ReLU右侧响应无界问题,提出了单峰梯形线性单元(Single-Peaked Trapezoid Linear Unit,SPTLU)。SPTLU更加符合生物神经元特性,且取得了等同和超越ReLU的优异性能,实验表明在不同数据集上都取得了很好的效果,例如,数据集MNIST,Fashion-MNIST,SVHN,CALTECH101和CIFAR10。
