Nam Kỳ là thuộc địa (colony) chính thức của Pháp, triều đình Huế không được động vào. Đúng nghĩa là mất đứt hẳn, thành đất của nước khác. Nam Kỳ được thiết kế để trở thành một phần nước Pháp ở phương Đông. Các đơn vị hành chính của nhà Nguyễn cũng bị xóa, Pháp tự chia lại theo ý họ luôn.
Pháp trực tiếp cai trị Nam Kỳ. Bên Pháp có gì thì Nam Kỳ sẽ được xây dựng theo như vậy. Vật liệu cũng chở từ bên kia qua. Tuy nhiên, để nhà cửa phù hợp với khí hậu bản địa thì sẽ điều chỉnh lại một chút, tạo thành kiến trúc Đông Dương.
Bên trong lòng xứ bảo hộ (protectorate) Bắc Kỳ và Trung Kỳ. Triều đình Huế vẫn được tiếng cai trị chung hai Kỳ này nhưng thực tế thì vẫn do Pháp giám sát. Pháp chọn ra ba thành phố Hà Nội, Hải Phòng và Đà Nẵng làm nhượng địa (concession), cũng do Pháp trực tiếp chăm sóc tận răng như Nam Kỳ. Một ví dụ về nhượng địa cho các bạn dễ hình dung là Hong Kong thuộc Anh.
Ở Pháp cũng chia ra hai phái cãi nhau nảy lửa xem nên cai trị các Kỳ này thế nào.
Phái thứ nhất theo kiểu đồng hoá, nghĩa là thuộc địa bắt buộc phải do mẫu quốc nuôi. Mẫu quốc Pháp sẽ có nhiệm vụ xây dựng, nâng cao chất lượng sống và đem văn minh đến cho nước Việt. Thay đổi phong tục và ngôn ngữ để họ trở thành người Pháp.
Phái thứ hai theo kiểu liên hiệp, nghĩa là không đủ tiền để làm việc đó, mấy ông nghĩ tiền nước Pháp nhiều như vỏ hến à? Tốt nhất là cứ dung hoà, chăm lo lợi ích người Pháp sống ở nước Việt và tôn trọng phong tục bản xứ. Không nên áp đặt sự thống trị.
Cuối cùng, sau khi cãi nhau, họ đã đưa ra một công thức chung cho chế độ thực dân Pháp tại Việt Nam:
“Rất nhiều phụ thuộc, rất ít tự trị, một ít đồng hoá”
Để bắt đầu cai trị thì điều quan trọng nhất vẫn là tổ chức một bộ máy điều hành. Sài Gòn hồi đó vẫn vắng vẻ lắm. Trên diện tích 5,7 km2 (quận 1 và quận 3 ngày nay), người Pháp muốn tạo ra một kinh đô tiểu Paris. Họ chia Sài Gòn ra thành 80 ô phố theo hình bàn cờ. Thế nhưng, trước đó họ vẫn phải thuê căn nhà của một người họ Đoàn để làm văn phòng xử lý mọi việc. Tuy nhiên, đâu thể cứ ở mãi nhà thuê được. Việc xây dựng một tòa thị chính là điều cần thiết.
Đã có một cuộc thi được tổ chức, rất nhiều bản thiết kế được gửi về và cũng có nhiều trận cãi nhau nổ ra. Suốt 30 năm tiến độ công việc giậm chân tại chỗ do người ta không quyết định được nên xây ra sao.