شرکت اوپنایآی ابزاری را که قرار بود نوشتههای انسان را از هوش مصنوعی تشخیص دهد، به دلیل نرخ دقت پایین متوقف کرد.
به گزارش خبرگزاری صدا و سیما به نقل از ورج، اوپنایآی ابزاری را که قرار بود نوشتههای انسان را از هوش مصنوعی تشخیص دهد، به دلیل نرخ دقت پایین متوقف کرد.
این شرکت گفت که تصمیم گرفته تا دسته بندی کنندهی هوش مصنوعی خود را از ۲۰ جولای متوقف کند. این شرکت گفت: ما در حال ترکیب بازخوردها و تحقیق در مورد روش موثرتر برای یافتن منشأ متن هستیم.
همزمان با متوقف کردن ابزاری که به تشخیص نوشتههای تولید شده توسط هوش مصنوعی کمک میکرد، اوپنایآی گفت که قصد دارد ساز و کارهایی را توسعه دهد که کاربران را قادر میسازد بفهمند آیا محتوای صوتی یا بصری تولید شده توسط هوش مصنوعی است یا خیر. با این حال، هنوز درباره این ساز و کارها صحبتی نشده است.
اوپنایآی اعتراف کرد که دستهبندیکننده هرگز در تشخیص متنهای تولید شده با هوش مصنوعی خوب نبوده است.
پس از اینکه چتجیپیتی (متعلق به شرکت اوپنایآی) وارد صحنه و به یکی از سریعترین برنامههای در حال رشد تبدیل شد، مردم برای درک این فناوری تلاش کردند. چندین بخش هشدار را در مورد متن و هنر تولید شده توسط هوش مصنوعی به صدا درآوردند، به ویژه معلمانی که نگران بودند دانش آموزان دیگر درس نخوانند و با کمک چتجیپیتی تکالیف خود را بنویسند. مدارس نیویورک حتی دسترسی به چتجیپیتی را در محوطه مدرسه به دلیل نگرانی در مورد دقت، ایمنی و تقلب ممنوع کردند.
اطلاعات نادرست تولید شده توسط هوش مصنوعی نیز نگرانکننده بوده است، زیرا مطالعات نشان میدهد متنهای تولید شده توسط هوش مصنوعی، مانند توییتها، ممکن است قانعکنندهتر از نوشتههای انسان باشد. دولتها هنوز متوجه نشدهاند که چگونه هوش مصنوعی را مهار کنند و تا کنون، تنظیم قوانین و اقدامات حفاظتی خود را برای مقابله با هجوم متنهای تولید شده توسط رایانه را به گروهها و سازمانها واگذار کردهاند و به نظر میرسد که در حال حاضر، هیچ کس، حتی شرکتی که در ابتدا، به آغاز به کار هوش مصنوعی مولد کمک کرد، پاسخی در مورد چگونگی مقابله با همه اینها ندارد. اگرچه برخی افراد متوجه میشوند، با این حال تشخیص آسان کار هوش مصنوعی و انسانی دشوارتر میشود.
اوپنایآی اخیراً اعتماد و رهبر ایمنی خود را در زمانی از دست داده است که کمیسیون تجارت فدرال در حال تحقیق از این شرکت است تا ببیند چگونه اطلاعات و دادهها را بررسی میکند. اوپیایآی از اظهار نظر فراتر از پست تارنگار خود خودداری کرد.