Membangun SMTP server sendiri untuk keperluan pengiriman email bisnis atau aplikasi merupakan kebutuhan penting bagi banyak developer, webmaster, hingga pemilik bisnis digital.
Namun tantangan utamanya adalah menghindari masuk spam. Banyak server email ditandai spam bukan karena kontennya, melainkan karena kesalahan konfigurasi seperti DNS, PTR, SPF, DKIM, HELO, hingga reputasi IP.
Dalam panduan ini, kita akan membahas langkah-langkah super lengkap dan rinci untuk membangun SMTP server sendiri, menggunakan contoh domain:
examplemail.net
dan IP server:
203.0.113.25
Contents
- 1 Mengapa Banyak SMTP Server Sendiri Masuk Spam?
- 2 Menentukan Hostname SMTP yang Tepat
- 3 Mengatur DNS A Record untuk SMTP Server
- 4 Mengatur PTR / Reverse DNS untuk SMTP
- 5 Mengatur Hostname OS Server || Linux
- 6 Mengatur HELO/EHLO pada Postfix
- 7 Mengatur SPF, DKIM, dan DMARC
- 8 Mengaktifkan TLS/SSL pada SMTP
- 9 Setting MX Record untuk Menerima Email (Opsional)
- 10 Menguji Reputasi dan Konfigurasi SMTP
- 11 Tips Agar SMTP Server Selalu Aman dari Spam
- 12 Kesimpulan
Mengapa Banyak SMTP Server Sendiri Masuk Spam?
Email sering masuk ke folder spam karena faktor teknis dan reputasi. Rata-rata penyebabnya adalah:
- Hostname server tidak cocok dengan reverse DNS (PTR).
- A record tidak sesuai dengan nama domain pada SMTP HELO/EHLO.
- SPF tidak lengkap.
- DKIM tidak dikonfigurasi.
- DMARC tidak ada.
- IP menggunakan hosting murah dengan reputasi jelek.
- SMTP tidak menggunakan TLS.
- Cloudflare proxy aktif untuk domain SMTP (ini salah besar).
- Isi email SPAM subject, isi tidak relevan atau konten SPAM
- Bulk sending email marketing, pengiriman masal tanpa terkendali
Dengan mengikuti panduan ini, kamu bisa membuat SMTP server kamu dipercaya Gmail, Outlook, Yahoo, dan provider besar lainnya.
Menentukan Hostname SMTP yang Tepat
Sebelum membangun SMTP server, kamu harus menentukan hostname yang akan digunakan. Dua pilihan populer:
- mail.examplemail.net
- smtp.examplemail.net
Keduanya benar, tetapi best practice global untuk mail server adalah:
π Gunakan: mail.examplemail.net
Alasannya:
- Standar umum administrator server.
- Tidak membingungkan DNS untuk wildcard atau subdomain lain.
- Lebih mudah untuk validasi anti-spam.
Hostname ini harus konsisten di seluruh sistem:
| Komponen | Nilai |
|---|---|
| Hostname server | mail.examplemail.net |
| HELO/EHLO | mail.examplemail.net |
| PTR Reverse DNS | 203.0.113.25 β mail.examplemail.net |
| A Record | mail.examplemail.net β 203.0.113.25 |
Jika satu saja tidak cocok, reputasi email menurun.
Mengatur DNS A Record untuk SMTP Server
Langkah pertama di DNS adalah membuat A record untuk hostname SMTP.
Contoh konfigurasi DNS A record:
β Penting: Jika menggunakan Cloudflare, pastikan mode DNS Only (abu-abu), bukan proxied (orange). Cloudflare tidak mendukung proxy untuk SMTP dan akan menyebabkan email ditolak atau masuk spam.
Mengatur PTR / Reverse DNS untuk SMTP
PTR adalah hal terpenting dalam reputasi email.
Sistem email besar seperti Gmail melakukan verifikasi:
Semua harus cocok.
Cara mengecek PTR:
Jika hasilnya:
Kamu harus mengganti PTR menjadi: mail.examplemail.net
Cara mengubah PTR:
- Jika pakai Vultr β menu βPTR Recordβ
- DigitalOcean β βReverse DNSβ
- Linode β βRDNSβ
- AWS EC2 β tiket ke support
- OVH β reverses menu
- Hetzner β menu RDNS
Setelah diganti, cek ulang:
Hasil harus:
Jika PTR sudah benar, nilai spam score turun drastis.
Mengatur Hostname OS Server || Linux
Menentukan hostname yang benar sangat penting untuk server, terutama untuk mail server, panel hosting, atau aplikasi yang membutuhkan FQDN (Fully Qualified Domain Name).
Berikut adalah cara paling ringkas dan aman untuk mengatur hostname dan file hosts di Ubuntu linux;
π 1. Cek Hostname Saat Ini
Gunakan:
Jika hostname masih berupa nama pendek (misalnya “mail”), Anda perlu mengubahnya menjadi FQDN.
π 2. Atur Hostname (FQDN) Permanen
Edit file /etc/hostname
Isi dengan FQDN server Anda:
Simpan dan keluar. Lalu terapkan hostname:
π 3. Atur File /etc/hosts
Edit file hosts:
Isi seperti berikut:
Ganti 45.76.178.xx dengan IP server Anda.
Restart:
systemctl restart systemd-hostnamed
Mengatur HELO/EHLO pada Postfix
Provider email besar mengecek HELO/EHLO.
Jika HELO tidak cocok β 90% email dianggap spam.
Pastikan Postfix menggunakan hostname yang benar:
Edit: /etc/postfix/main.cf
Set:
Restart:
Tes manual HELO:
Harus muncul:
Jika ini cocok β aman.
Mengatur SPF, DKIM, dan DMARC
Tiga rekam DNS ini adalah fondasi anti-spam modern.
1. SPF Record
Contoh:
Jika ingin lebih ketat:
2. DKIM
DKIM harus dibuat dari mail server. Setelah menghasilkan public key, masukkan ke DNS seperti:
Gmail dan Outlook tidak akan mempercayai email tanpa DKIM.
3. DMARC
DMARC menguatkan SPF dan DKIM.
Minimal:
Direkomendasikan:
Mengaktifkan TLS/SSL pada SMTP
SMTP tanpa TLS akan ditolak Gmail/Outlook.
Gunakan Let’s Encrypt.
Instal Certbot:
Set pada Postfix:
Restart:
Jika TLS aktif, reputasi email meningkat signifikan.
Setting MX Record untuk Menerima Email (Opsional)
Jika server ingin menerima email masuk, tambahkan MX record:
Jika hanya mengirim email dari aplikasi (no-reply), MX boleh tidak ada.
Menguji Reputasi dan Konfigurasi SMTP
Gunakan tools berikut:
1. Mail Tester
Kirim email ke:
atau
gunakan:
Skor 8β10/10 berarti konfigurasi bagus.
2. Google Postmaster Tools
Jika kirim ke Gmail banyak, gunakan:
Untuk melihat reputasi IP & domain.
3. MX Toolbox
Cek:
- DNS
- SPF
- DKIM
- DMARC
- blacklist
Tips Agar SMTP Server Selalu Aman dari Spam
-
Jangan kirim email massal terlalu banyak dalam waktu singkat.
-
Gunakan queue delay untuk warming-up IP.
-
Pastikan server tidak open relay.
-
Gunakan rate-limit Postfix.
-
Update OS dan Postfix secara rutin.
-
Gunakan DKIM 2048-bit untuk keamanan maksimal.
Kesimpulan
Membangun SMTP server sendiri memerlukan konfigurasi detail agar tidak masuk spam. Langkah paling kritis adalah konsistensi DNS, PTR, hostname, HELO/EHLO, serta aktivasi SPF, DKIM, dan DMARC.
Dengan contoh domain examplemail.net dan IP 203.0.113.25, kita menyusun konfigurasi SMTP lengkap yang dapat dipakai siapa saja untuk membangun mail server profesional.
Jika semua konfigurasi sesuai, reputasi email akan meningkat, dan email kamu akan diterima dengan baik oleh Gmail, Outlook, Yahoo, dan provider lain.