Setiap daerah memiliki latar belakang tersendiri yang sering kali berakar dari cerita turun-temurun, mitos, maupun gambaran masa lalu wilayahnya. Nama Desa Penyamun sendiri berasal dari kata "penyamun" yang berarti perampok atau perampas yang biasanya bersembunyi di semak-semak menunggu orang yang lewat. Menurut keterangan dari tokoh tertua sekaligus mantan Kepala Desa Penyamun, Bapak Mansyur, desa ini diperkirakan mulai terbentuk sekitar tahun 1886, meskipun tanggal dan bulan pastinya tidak diketahui secara pasti.

Pada zaman dahulu kala, letak Desa Penyamun merupakan jalur perlintasan pertengahan yang sangat ramai antara Kota Sungailiat dan Desa Bukit Layang. Jalan ini kerap dilintasi oleh masyarakat hingga saudagar-saudagar kaya yang membawa barang dagangan serta hasil pertanian untuk diperjualbelikan di Kota Sungailiat, atau yang hendak bepergian ke luar kota melalui Pelabuhan Sungai Layang di Desa Bukit Layang. Namun, di sepanjang jalan perlintasan tersebut dahulunya masih berupa hutan belantara yang lebat dan semak belukar, tepatnya di sekitaran Dusun Cungfo yang letaknya subur dan cukup angker.

Kondisi hutan belantara tersebut kemudian dimanfaatkan sebagai tempat persembunyian para perampok atau sarang penyamun. Setiap orang maupun saudagar yang melintas di sekitar jalan tersebut merasa tidak aman karena sering kali dirampok, bahkan nyawa mereka menjadi taruhan apabila menolak menyerahkan hasil pertanian dan harta benda yang dibawa. Dari peristiwa kelam masa lalu serta keberadaan sarang perampok di jalur lintasan itulah, wilayah tersebut akhirnya melekat dengan identitasnya dan dinamakan sebagai Desa Penyamun, sementara jalan utamanya dinamakan Jalan Raya Pangkal Layang Desa Penyamun.