PortSentry adalah sebuah perangkat lunak yang di rancang untuk mendeteksi adanya port scanning & meresponds secara aktif jika ada port scanning. Port scan adalah proses scanning berbagai aplikasi servis yang dijalankan di server Internet. Port scan adalah langkah paling awal sebelum sebuah serangan di lakukan.
Cara kerja port sentry dengan melakukan melihat komputer yang melakukan scan dan secara aktif akan memblokir mesin penyerang agar tidak dapat masuk & melakukan transaksi dengan Server kita.

PortSentry dapat di download secara pada http://www.psionic.com.
Beberapa fitur utama dari PortSentry:
 Berjalan di atas soket TCP & UDP untuk mendeteksi scan port ke sistem kita.

 Mendeteksi stealth scan, seperti SYN/half-open, FIN, NULL, X-MAS.

 PortSentry akan bereaksi secara real-time (langsung) dengan cara memblokir IP address si penyerang. Hal ini dilakukan dengan menggunakan ipchains/ipfwadm dan memasukan ke file /etc/host.deny secara otomatis oleh TCP Wrapper.

 PortSentry mempunyai mekanisme untuk mengingat mesin / host mana yang pernah connect ke dia. Dengan cara itu, hanya mesin / host yang terlalu sering melakukan sambungan (karena melakukan scanning) yang akan di blokir.

 PortSentry akan melaporkan semua pelanggaran melalui syslog dan mengindikasikan nama system, waktu serangan, IP mesin penyerang, TCP / UDP port tempat serangan dilakukan. Jika hal ini di integrasikan dengan Logcheck maka administrator system akan memperoleh laporan melalui e-mail.
Dengan adanya berbagai fitur di atas maka system yang kita gunakan tampaknya seperti hilang dari pandangan penyerang. Hal ini biasanya cukup membuat kecut nyali penyerang.

Penggunaan PortSentry sendiri sangat mudah sekali, bahkan untuk penggunaan biasa saja praktis semua instalasi default tidak perlu di ubah apa-apa dapat langsung digunakan.
Yang mungkin perlu di tune-up sedikit adalah file konfigurasi portsentry yang semuanya berlokasi di /etc/portsentry secara default. Untuk mengedit file konfigurasi tersebut anda membutuhkan privilige sebagai root. Beberapa hal yang mungkin perlu di set adalah:

 file /etc/portsentry/portsentry.conf merupakan konfigurasi utama portsentry. Disini secara bertahap diset port mana saja yang perlu di monitor, responds apa yang harus di lakukan ke mesin yang melakukan portscan, mekanisme menghilangkan mesin dari routing table, masukan ke host.deny. Proses setting sangat mudah hanya dengan membuka / menutup tanda pagar (#) saja.

 pada file /etc/portsentry/portsentry.ignore.static masukan semua IP address di LAN yang harus selalu di abaikan oleh portsentry. Artinya memasukan IP address ke sini, agar tidak terblokir secara tidak sengaja.

 Pada file /etc/default/portsentry kita dapat menset mode deteksi yang dilakukan portsentry. Semakin baik mode deteksi yang dipilih (advanced stealth TCP/UP scanning), biasanya PortSentry akan semakin sensitif & semakin rewel karena sedikit-sedikit akan memblokir mesin.

Berikut langkah-langkah deteksi port scanner dengan Portsentry menggunakan Ubuntu:
1. Jalankan perintah berikut untuk installasi di PC Server
# apt-get install portsentry

2. Edit file konfigurasi untuk bloking serangan dengan TCPWrapper:
# vim /etc/portsentry/portsentry.conf

#Edit bagian HISTORY_FILE dan BLOCKED_FILE menjadi:
#
IGNORE_FILE=”/etc/portsentry/portsentry.ignore”
HISTORY_FILE="/var/lib/portsentry/portsentry.history"
BLOCKED_FILE="/var/lib/portsentry/portsentry.blocked"
#
#Daftar port TCP dan UDP yang dibuka dan dicek oleh portsentry
#tetapi ini tidak berlaku untuk advanced mode
TCP_PORTS="1,11,15,79,111,119,143,540,635,1080,1524,2000,5742,6667,12345,12
346,20034,27665,31337,32771,32772,32773,32774,40421,49724,54320"
UDP_PORTS="1,7,9,69,161,162,513,635,640,641,700,37444,34555,31335,32770,327
71,32772,32773,32774,31337,54321"
######################Ini diperlukan utk memblok TCP dan UDP
BLOCK_UDP=”1”
BLOCK_TCP=”1”
######################
#Blok dari table routing
KILL_ROUTE=”/sbin/route add –host $TARGET$ reject”
#Blok dari TCP Wrapper
###################### Perintah ini untuk memblok ip di /etc/hosts.deny
KILL_HOSTS_DENY=”ALL: $TARGET$ : DENY”
######################
#EOF

3. Edit File /etc/portsentry/portsentry.ignore.static, isi dengan IP yang tidak terblokir,
misal :

# Format : /
# Misalnya: Konfigurasi Ip di Router initrd@vmlinuz.unixminix.com
# eth0 : 202.212.77.99/30
# eth1 : 192.168.1.1/24
#
# Maka Daftar Hosts-nya menjadi :
#
# Exclude all local interface
192.168.50.1/32
192.168.50.10
192.168.50.30
127.0.0.1
#
# Exclude nameserver
202.9.85.3
#
# Catatan: jika kita tidak mencantumkan nilai mask_length-nya
# maka diasumsikan bernilai 32 bits.
# Jadi 192.168.1.1 sama dengan 192.168.1.1/32

4. File /etc/default/portsentry

TCP_MODE=”tcp”
UDP_MODE=”udp”

NB:
Pilihan TCP_MODE dan UDP_MODE :
tcp : deteksi portscan sesuai yang ditentukan di TCP_PORT di portsentry.conf
atcp : advanced tcp / udp port
stcp : adanya tambahan deteksi stealth scan

5. Insialisasi Daemon
#/etc/init.d/portsentry restart

6. Jika sudah jalan, jalankan # tail -f /var/log/syslog, akan keluar hasil spt berikut :
Jan 25 08:35:27 localhost portsentry[2192]: adminalert: PortSentry is now active
and listening.

7. Lakukan scanning port dari PC lain, misalnya dengan menggunakan nmap
# nmap pc_server
Terlihat dari /var/log/syslog bahwa ada scanning port ke pc_server, lalu secara otomatis pc_server akan melakukan blocking sesuai dengan konfigurasi pada portsentry