Apa itu aktivasi GELU?

Saya menggunakan kertas BERT yang menggunakan GELU (Gaussian Error Linear Unit) yang menyatakan persamaan sebagai yang

$$GELU(x) = xP(X ≤ x) = xΦ(x).$$ $$0.5x(1 + tanh[\sqrt{ 2/π}(x + 0.044715x^3)])$$ Bisakah Anda menyederhanakan persamaan dan menjelaskan bagaimana persamaannya telah diperkirakan.

Fungsi GELU

Kita dapat memperluas distribusi kumulatif dari$\mathcal{N}(0, 1)$ , yaitu , sebagai berikut: $\Phi(x)$

$$\text{GELU}(x):=x{\Bbb P}(X \le x)=x\Phi(x)=0.5x\left(1+\text{erf}\left(\frac{x}{\sqrt{2}}\right)\right)$$

Perhatikan bahwa ini adalah definisi , bukan persamaan (atau hubungan). Penulis telah memberikan beberapa pembenaran untuk proposal ini, misalnya analogi stokastik , namun secara matematis, ini hanyalah sebuah definisi.

Berikut ini alur cerita GELU:

Perkiraan Tanh

Untuk jenis perkiraan numerik ini, ide kuncinya adalah menemukan fungsi yang serupa (terutama berdasarkan pengalaman), membuat parameterisasi, dan kemudian memasangnya ke satu set poin dari fungsi aslinya.

Mengetahui bahwa sangat dekat dengan$\text{erf}(x)$$\text{tanh}(x)$

dan turunan pertama dari bertepatan dengan di , yang merupakan , kami melanjutkan untuk mencocokkan (atau dengan lebih banyak istilah) ke sekumpulan titik .$\text{erf}(\frac{x}{\sqrt{2}})$$\text{tanh}(\sqrt{\frac{2}{\pi}}x)$$x=0$$\sqrt{\frac{2}{\pi}}$

$$\text{tanh}\left(\sqrt{\frac{2}{\pi}}(x+ax^2+bx^3+cx^4+dx^5)\right)$$ $\left(x_i, \text{erf}\left(\frac{x_i}{\sqrt{2}}\right)\right)$

Saya telah memasang fungsi ini ke 20 sampel antara ( menggunakan situs ini ), dan berikut adalah koefisiennya:$(-1.5, 1.5)$

Dengan mengatur ,$a=c=d=0$$b$ diperkirakan 0,04495641 . Dengan lebih banyak sampel dari rentang yang lebih luas (situs itu hanya diizinkan 20), koefisien b akan lebih dekat dengan kertas . Akhirnya kita dapatkan0,044715$0.04495641$$b$$0.044715$

$\text{GELU}(x)=x\Phi(x)=0.5x\left(1+\text{erf}\left(\frac{x}{\sqrt{2}}\right)\right)\simeq 0.5x\left(1+\text{tanh}\left(\sqrt{\frac{2}{\pi}}(x+0.044715x^3)\right)\right)$

dengan mean squared error $\sim 10^{-8}$ untuk $x \in [-10, 10]$ .

Perhatikan bahwa jika kami tidak memanfaatkan hubungan antara derivatif pertama, istilah $\sqrt{\frac{2}{\pi}}$ akan dimasukkan dalam parameter sebagai berikut

$$0.5x\left(1+\text{tanh}\left(0.797885x+0.035677x^3\right)\right)$$ yang kurang indah (kurang analitis, lebih numerik)!

Memanfaatkan paritas

$\text{erf}$$f(-x)=-f(x)$$\text{tanh}$$\text{pol}(x)$$\text{tanh}$$x$

$$\text{erf}(-x)\simeq\text{tanh}(\text{pol}(-x))=\text{tanh}(-\text{pol}(x))=-\text{tanh}(\text{pol}(x))\simeq-\text{erf}(x)$$

$x^2$$x^4$$0.23x^2$$0x^2$

Perkiraan sigmoid

$\text{erf}(x)$$2\left(\sigma(x)-\frac{1}{2}\right)$$\sim 10^{-4}$$x \in [-10, 10]$

Berikut adalah kode Python untuk menghasilkan titik data, menyesuaikan fungsi, dan menghitung rata-rata kesalahan kuadrat:

import math
import numpy as np
import scipy.optimize as optimize


def tahn(xs, a):
    return [math.tanh(math.sqrt(2 / math.pi) * (x + a * x**3)) for x in xs]


def sigmoid(xs, a):
    return [2 * (1 / (1 + math.exp(-a * x)) - 0.5) for x in xs]


print_points = 0
np.random.seed(123)
# xs = [-2, -1, -.9, -.7, 0.6, -.5, -.4, -.3, -0.2, -.1, 0,
#       .1, 0.2, .3, .4, .5, 0.6, .7, .9, 2]
# xs = np.concatenate((np.arange(-1, 1, 0.2), np.arange(-4, 4, 0.8)))
# xs = np.concatenate((np.arange(-2, 2, 0.5), np.arange(-8, 8, 1.6)))
xs = np.arange(-10, 10, 0.001)
erfs = np.array([math.erf(x/math.sqrt(2)) for x in xs])
ys = np.array([0.5 * x * (1 + math.erf(x/math.sqrt(2))) for x in xs])

# Fit tanh and sigmoid curves to erf points
tanh_popt, _ = optimize.curve_fit(tahn, xs, erfs)
print('Tanh fit: a=%5.5f' % tuple(tanh_popt))

sig_popt, _ = optimize.curve_fit(sigmoid, xs, erfs)
print('Sigmoid fit: a=%5.5f' % tuple(sig_popt))

# curves used in https://mycurvefit.com:
# 1. sinh(sqrt(2/3.141593)*(x+a*x^2+b*x^3+c*x^4+d*x^5))/cosh(sqrt(2/3.141593)*(x+a*x^2+b*x^3+c*x^4+d*x^5))
# 2. sinh(sqrt(2/3.141593)*(x+b*x^3))/cosh(sqrt(2/3.141593)*(x+b*x^3))
y_paper_tanh = np.array([0.5 * x * (1 + math.tanh(math.sqrt(2/math.pi)*(x + 0.044715 * x**3))) for x in xs])
tanh_error_paper = (np.square(ys - y_paper_tanh)).mean()
y_alt_tanh = np.array([0.5 * x * (1 + math.tanh(math.sqrt(2/math.pi)*(x + tanh_popt[0] * x**3))) for x in xs])
tanh_error_alt = (np.square(ys - y_alt_tanh)).mean()

# curve used in https://mycurvefit.com:
# 1. 2*(1/(1+2.718281828459^(-(a*x))) - 0.5)
y_paper_sigmoid = np.array([x * (1 / (1 + math.exp(-1.702 * x))) for x in xs])
sigmoid_error_paper = (np.square(ys - y_paper_sigmoid)).mean()
y_alt_sigmoid = np.array([x * (1 / (1 + math.exp(-sig_popt[0] * x))) for x in xs])
sigmoid_error_alt = (np.square(ys - y_alt_sigmoid)).mean()

print('Paper tanh error:', tanh_error_paper)
print('Alternative tanh error:', tanh_error_alt)
print('Paper sigmoid error:', sigmoid_error_paper)
print('Alternative sigmoid error:', sigmoid_error_alt)

if print_points == 1:
    print(len(xs))
    for x, erf in zip(xs, erfs):
        print(x, erf)

Keluaran:

Tanh fit: a=0.04485
Sigmoid fit: a=1.70099
Paper tanh error: 2.4329173471294176e-08
Alternative tanh error: 2.698034519269613e-08
Paper sigmoid error: 5.6479106346814546e-05
Alternative sigmoid error: 5.704246564663601e-05

$$\Phi(x) = \frac12 \mathrm{erfc}\left(-\frac{x}{\sqrt{2}}\right) = \frac12 \left(1 + \mathrm{erf}\left(\frac{x}{\sqrt2}\right)\right)$$ $\mathrm{erf}$ $$\mathrm{erf}\left(\frac x {\sqrt2}\right) \approx \tanh\left(\sqrt{\frac2\pi} \left(x + a x^3\right)\right)$$ $a \approx 0.044715$

$x$$[-1, 1]$$x$

$$\tanh(x) = x - \frac{x^3}{3} + o(x^3)$$ $$\mathrm{erf}(x) = \frac{2}{\sqrt{\pi}} \left(x - \frac{x^3}{3}\right) + o(x^3).$$ $$\tanh\left(\sqrt{\frac2\pi} \left(x + a x^3\right)\right) = \sqrt\frac{2}{\pi} \left(x + \left(a-\frac{2}{3\pi}\right)x^3\right) + o(x^3)$$ $$\mathrm{erf}\left(\frac x {\sqrt2}\right) = \sqrt\frac2\pi \left(x - \frac{x^3}{6}\right) + o(x^3).$$ $x^3$ $$a \approx 0.04553992412$$ $0.044715$