AI giúp công ty tăng hiệu quả và giảm chi phí: AI có thể tự động hóa những công việc lập trình lặp đi lặp lại, giúp doanh nghiệp tiết kiệm thời gian và nguồn lực. Nếu một công ty có thể vận hành hiệu quả hơn nhờ AI, việc sử dụng AI là một quyết định kinh doanh hợp lý. Doanh nghiệp có quyền lựa chọn công nghệ phù hợp: Công ty không có nghĩa vụ phải duy trì một vị trí việc làm chỉ vì vị trí đó từng cần thiết. Giống như máy móc đã thay thế nhiều công việc thủ công trong quá khứ, AI có thể thay thế một số nhiệm vụ của software developers. AI không nhất thiết loại bỏ hoàn toàn con người: Thay vì nhìn AI như “kẻ cướp việc”, có thể xem nó là công cụ thay đổi bản chất công việc. Developers có thể chuyển sang những nhiệm vụ cần critical thinking, system design, creativity, cybersecurity và decision-making. Thay thế một số developer có thể mang lại sản phẩm tốt hơn: AI có khả năng viết, kiểm tra và debug code rất nhanh. Khi được sử dụng đúng cách, nó có thể giảm lỗi do con người, tăng tốc development và cho phép công ty tập trung nhiều hơn vào chất lượng sản phẩm. “Ethical” không đồng nghĩa với “không ai mất việc”: Một quyết định có thể gây khó khăn cho một nhóm người nhưng vẫn có lợi cho xã hội hoặc doanh nghiệp nói chung. Điều quan trọng về mặt đạo đức là công ty phải minh bạch, công bằng và có trách nhiệm khi sa thải hoặc chuyển đổi nhân sự, chứ không phải cấm hoàn toàn việc thay thế bằng AI.

AI không tự quyết định đưa phần mềm ra thị trường. Công ty vẫn là bên quyết định dùng AI, đặt yêu cầu, kiểm thử, phê duyệt và triển khai sản phẩm. Nếu AI tạo ra lỗi làm lộ dữ liệu, trách nhiệm vẫn thuộc về tổ chức và những người có quyền quyết định, chứ không thể đổ cho “AI”. Developer cũng không đảm bảo hệ thống an toàn chỉ vì họ là con người. Developer có thể viết code sai, bỏ sót lỗ hổng hoặc đưa ra những trade-off tồi. Có con người trong vòng lặp không tự động tạo ra sự an toàn hay trách nhiệm. “AI thay thế developer” không nhất thiết có nghĩa là “AI tự xây dựng và tự triển khai mọi thứ”. AI có thể thay thế một số công việc lập trình lặp lại, trong khi con người vẫn đảm nhiệm kiến trúc, kiểm thử, bảo mật, yêu cầu sản phẩm và quyết định cuối cùng. Khi đó, AI giống một công cụ năng suất hơn là một “nhân viên không chịu trách nhiệm”. Nếu lập luận là “không thể chịu trách nhiệm cho code thì không được shipping”, thì điều đó áp dụng cho cả code viết bởi con người. Điều quan trọng không phải ai gõ từng dòng code, mà là ai chịu trách nhiệm kiểm tra và quyết định rằng sản phẩm đủ an toàn để phát hành. Chi phí và năng suất cũng là những yếu tố đạo đức. Nếu AI giúp một công ty tạo phần mềm rẻ hơn, nhanh hơn và vẫn duy trì mức an toàn chấp nhận được, việc cố tình giữ toàn bộ quy trình cũ chỉ để bảo vệ một số vị trí việc làm cũng không phải lúc nào là lựa chọn đạo đức nhất. Công nghệ thường thay đổi loại công việc con người làm, thay vì đơn giản xóa bỏ toàn bộ giá trị của con người “Bạn đang nhầm giữa người viết code và người chịu trách nhiệm về sản phẩm. AI có thể viết code, nhưng AI không ký hợp đồng, không quyết định triển khai và không sở hữu hệ thống. Nếu công ty dùng AI mà không kiểm thử và không có người chịu trách nhiệm, đó là lỗi quản trị — không phải bằng chứng rằng AI không thể thay thế một phần công việc của developer. Developer cũng có thể tạo ra lỗ hổng; thứ quyết định trách nhiệm là quy trình kiểm soát và người có quyền phê duyệt, chứ không phải ai đã gõ dòng code đầu tiên.”

737 MAX không phải ví dụ về AI tự ý thay thế kỹ sư. MCAS là một hệ thống tự động được thiết kế và triển khai bởi con người, trong một chuỗi quyết định kỹ thuật, kiểm thử, chứng nhận và quản lý. Vì vậy, chính ví dụ này lại cho thấy vấn đề nằm ở quy trình và trách nhiệm của tổ chức, chứ không đơn giản là “đưa AI ra khỏi vòng lặp”. “Không có developer” không đồng nghĩa với “không có người chịu trách nhiệm”. Nếu công ty cho AI viết 80% code rồi kỹ sư kiểm tra 20% còn lại, người phê duyệt sản phẩm vẫn có trách nhiệm. Nếu công ty không kiểm thử, không audit và cứ triển khai code AI-generated, đó là thất bại của công ty. Lập luận “AI không thể bị sa thải nên AI không thể chịu trách nhiệm” hơi đánh tráo vấn đề. AI không cần phải chịu trách nhiệm. Con người sử dụng AI mới là chủ thể chịu trách nhiệm. Máy móc không phải là người chịu trách nhiệm cho ô tô tự lái gây tai nạn; trách nhiệm vẫn được phân bổ cho những bên thiết kế, vận hành và kiểm soát hệ thống tùy trường hợp. Quan trọng nhất, không có lý do gì phải giả định rằng AI luôn loại bỏ judgment của con người. Một công ty có thể dùng AI để tạo code, rồi dành thời gian của developer cho những thứ khó hơn: kiến trúc, threat modeling, kiểm thử edge case, review và giám sát production. Khi đó AI thậm chí có thể giải phóng con người khỏi việc gõ code để tập trung vào judgment. “Boeing không chứng minh rằng chúng ta cần một con người gõ từng dòng code để hệ thống có trách nhiệm. Nó chứng minh rằng chúng ta cần một con người hoặc tổ chức có quyền hạn, năng lực và quy trình để kiểm soát hệ thống. Nếu AI-generated code làm lộ dữ liệu, câu hỏi đạo đức không phải là ‘AI có bị sa thải không?’, mà là ‘công ty nào đã phê duyệt, kiểm thử và triển khai nó?’ Nếu câu trả lời là công ty, thì trách nhiệm vẫn tồn tại. Vấn đề là quản trị AI, không phải việc AI viết code.”