Đạo luật AI của EU: Thúc đẩy hay kìm hãm các start up AI cảm xúc?

Một trong những startup đang ứng dụng một số phương pháp để phát hiện và diễn dịch các biểu cảm của con người đã phản ứng đối với những hạn chế pháp lý này. “Về cơ bản, thay vì nhận được sự ủng hộ đối với sự phát triển của công ty, chúng tôi lại phải đối diện với mối nguy đe dọa sự tồn tại”, Stefano Bargagni, nhà sáng lập và giám đốc điều hành củaMorphCast, một start up Ý đang phát triển một hệ AI cho truyền thông video số, nhận xét.

Công nghệ của MorphCast có thể nhận diện được các phản hồi cảm xúc của những người xem theo thời gian thực, cho phép các video được chủ đích tương tác với biểu cảm của người xem và chứa đựng những nội dung đồng cảm được thiết kế tùy chỉnh. Hệ thống AI này sẽ đo đạc và chứng nhận sự chú ý của người xem như thế nào đối với các chương trình giải trí, quảng cáo và giáo dục. “Chúng tôi đang chứng kiến ​​nhiều lần dừng các dự án mà chúng tôi đã dày công khởi xướng với các khách hàng lớn”, Bargagni nói. “Những khách hàng này sợ hãi các quy định sắp tới như những rủi ro tiềm năng đối với danh tiếng thương hiệu của họ.”

Điều này cũng ảnh hưởng đến khả năng gọi vốn của MorphCast. “Chúng tôi đang nếm trải những khó khăn khi kêu gọi vốn đầu tư, vì công ty chúng tôi có thể có khả năng thuộc về những công ty rồi sẽ sớm bị giới hạn trong quá trình phát triển sản phẩm, hoặc thấy việc vận hành công việc sẽ bị xóa bỏ”, Bargagni dự báo một cách u ám.

Startup Ba LanUX Miningđang phát triển các công cụ để thử nghiệm khả năng sử dụng sản phẩm, trong đó các tình nguyện viên được ghi nhận sử dụng một sản phẩm mới hoặc dịch vụ và một bảng điểm phân tích thông qua AI để đánh giá cảm xúc của họ. Tại cùng thời điểm, công ty này đang nghiên cứu một hệ tinh vi hơn để theo dõi giọng nói, biểu hiện khuôn mặt và chuyển động cơ thể.

Nó sẽ gắn thẻ một video phỏng vấn khi phát hiện các cảm xúc cụ thể, như cảm giác không thoải mái khi hoàn thành một nhiệm vụ, vì các nhà phân tích có thể lựa chọn những khoảnh khắc chính trong quá trình thử nghiệm mà không cần mất hàng giờ xem các băng ghi hình.

“Chúng tôi lựa chọn ứng dụng này một cách cẩn thận bởi vì nó diễn ra trong một môi trường có kiểm soát và phải được sự đồng thuận”, Jean-luc Momprivé, đồng sáng lập công ty, nói. “Chúng tôi đã cẩn thận xây dựng các biện pháp kiểm soát chặt chẽ đối với cách dữ liệu được sử dụng và ai có thể truy cập dữ liệu đó. Chúng tôi sử dụng AI như một trợ giúp chứ không phải là người ra quyết định”.

Sự tập trung vào những giới hạn mới và lo ngại tương tự về bảo vệ dữ liệu cũng xuất hiện với Beyond Emotion, một công ty spin-off từ trường ĐH Khoa học ứng dụng Hamburg. Họ đang phát triển một hệ AI có thể dò được tâm trạng của người lớn tuổi, cảnh báo người thân về những xúc cảm tiêu cực hoặc tình trạng không hoạt động kéo dài. Hệ thống này cũng được xây dựng dựa trên một khung tranh, trong đó hiển thị những hình ảnh khi người xem chú ý vào, như những bức ảnh gia đình. Cùng thời điểm, nó cũng theo dõi biểu hiện khuôn mặt họ. “Phần mềm thực hiện phân tích trên chính thiết bị, vì vậy dòng hình ảnh video không gửi đến đám mây lưu trữ nào hay bất cứ nơi đâu”, Hanne Butting, đồng sáng lập công ty, nói. “Vì vậy đây chính là sự bảo vệ dữ liệu thông qua công nghệ hiện đại”.

Sản phẩm này đã được thử nghiệm với những người sử dụng và bán thử cho những khách hàng ban đầu vào cuối tháng sáu này. “Trong vòng hai tháng, chúng tôi muốn vận chuyển sán phẩm để bán chính thức”, Butting nói.

Giới hạn nghiêm ngặt cũng hỗ trợ AI cảm xúc

Cả UX Mining và Beyond Emotion đều thấy những giới hạn về AI cảm xúc trong Đạo luật AiI như lằn ranh đỏ có thể giúp xây dựng niềm tin trong quá trình sử dụng công nghệ này. “Họ giới hạn những người muốn sử dụng thông tin được thu thập trên đường phố, trong cửa hàng hoặc trong một buổi phỏng vấn mà không có sự xin phép rõ ràng”, Momprivé chỉ ra. “Tôi cho rằng đây là điều tốt và vẫn có nhiều ứng dụng mà công nghệ này có thể trở nên hữu dụng trong việc truy cập vào dữ liệu cảm xúc của con người”.

Butting đồng ý với nhận định này. “Đây là một phạm trù nhạy cảm, và nó ảnh hưởng đến nhiều người nếu như AI được sử dụng trong những không gian công cộng”, cô nói. Ít người thấy thay vì cản trở sự phát triển của AI cảm xúc, Đạo luật AI có thể là một tác nhân kích thích. “Điều đó cho thấy, dù có thể tạo ra những đổi mới sáng tạo trong lĩnh vực này nhưng người ta vẫn cần phải nghĩ đến con người”.

Theo Bargagni, có vẻ như châu Âu thường vội vàng áp đặt các chướng ngại vật, bất kể hoàn cảnh nào. EU nên noi gương Mỹ hoặc Trung Quốc để thúc đẩy một môi trường thuận lợi cho các công ty phát triển công nghệ tiên tiến của mình. Việc quốc tế hóa cũng góp phần tránh được tình trạng quan liêu không cần thiết và các quy định được thiết kế kém khác.

Những ứng dụng có lợi cho xã hội

Với Andrew McStay, giám đốc Phòng thí nghiệm AI cảm xúc tại ĐH Bangor ở Wales, thì Đạo luật AI cũng có thể có tác động tích cực lên sự phát triển của lĩnh vực này khi để lại không gian cho nó vận động. Tôi nghĩ đạo luật này sẽ đặt dấu chấm hết cho một số sử dụng nguy hiểm nhưng vẫn còn đó một thế giới mà công nghệ sẽ được sử dụng để đem lại lợi ích vá tương tác với chúng ta theo nhiều cách thân thiện hơn”, ông nói. “Tôi hy vọng các công nghệ kế thừa và cộng đồng khởi nghiệp sẽ quyết định sáng tạo theo nhiều cách để nó trở nên hữu ích với mọi người hơn là chống lại con người”.

Nhiều ứng dụng AI có thể thu được kết quả tốt trong truyền thông, nghệ thuật, giải trí, sống khỏe và sức khỏe tâm thần. Nhưng liệu AI cảm xúc sẽ có thể phát triển trong những lĩnh vực này cũng còn là một vấn đề. “Như chúng ta đã biết, tỉnh trạng hiện nay của các công nghệ này đã bị huy hoại bởi nhiều câu hỏi và vấn đề đặt ra về sự chính xác của nó”, McStay nói. “Còn cảm giác của tôi là chúng ta đang ở thời điểm bắt đầu hơn là kết thúc của cái gì đó”.

Đạo luật AI sẽ có những tác động tích cực nếu như nó đưa lĩnh vực này ra khỏi những ứng dụng ở không gian công cộng. “Nếu như ai đó nói về những giới hạn trong phát triển các hệ AI cảm xúc thì có lẽ tốt hơn là nghĩ đến tình huống mà ngành công nghiệp AI được thúc đẩy theo hướng có lợi cho xã hội”, Mc Stay nói.

Điều này sẽ đòi hỏi nhiều đổi mới sáng tạo hơn. “Nhiệm vụ cho các start up trong lĩnh vực này là tránh sự phụ thuộc vào các kỹ thuật dán nhãn quá đơn giản”, ông nói.

Nguồn: sciencebusiness.net