自从甲午战争之后，日本侵略台湾，为了能有效管理这块土地，发展交通为其首要任务，因此当时的台湾总督府于1898年开始探勘台湾东部的铁路，并于1910年2月1日开始建设花莲至玉里（旧名璞石阁）间的轻便铁路，采762mm轨距，但前瞻性地保留了1067轨距的建筑标准，以期日后能与西部纵贯线联接起来。该段铁路于1919年5月17日完工，共费时7年4个月及434万日圆。

玉里以南的工程为当时的二期建设计划，因需求不甚迫切，当局决定暂缓兴建。而卑南至里垅（关山）间的铁路，由当时的台东开拓会社所建，于1919年12月16日通车。1920年代初期，当局在交通系统一元化政策下，把台东开拓会社兴建的台东－里垅间的铁路收买，并于1921年续筑璞石阁至里垅间的铁路，终于在1926年完成总长171.8公里的台东线铁路，并于1926年3月27日于璞石阁举行全线通车典礼。